گوگل در حال ایجاد تغییراتی در نحوه برخورد Gemini با بحران‌های سلامت روان است.

این چت‌بات اکنون شامل یک ماژول خط تلفن بحران بازطراحی‌شده با رابط کاربری تک‌لمسی برای اتصال به کمک در دنیای واقعی است.

این شرکت همچنین در حال تغییر نحوه واکنش Gemini به نشانه‌هایی است که نشان می‌دهد کاربر ممکن است دچار بحران سلامت روان باشد.

این ماژول بازطراحی‌شده، رابط کاربری تک‌لمسی برای ارسال پیامک، تماس یا چت با یک عامل بحران انسانی یا بازدید از وب‌سایت امداد را نشان می‌دهد.

گوگل در یک پست وبلاگ نوشت: پس از فعال شدن رابط کاربری، گزینه درخواست کمک حرفه‌ای در طول مکالمه به وضوح در دسترس خواهد بود.

با این حال، همانطور که در تصویر مشاهده می‌شود، این ماژول شامل گزینه‌ای برای رد کردن آن گزینه است.

در اطلاعیه گوگل به این موضوع اشاره نشده است یه یک دادخواست اخیر که این چت‌بات را به تشویق و دستور دادن به یک مرد برای خودکشی متهم می‌کند. خانواده جاناتان گاوالاس(Jonathan Gavalas) ۳۶ ساله که سال گذشته خودکشی کرد، در ماه مارس از این شرکت شکایت کردند.

اسناد دادگاه نشان می‌دهد که جمینای نقش شریک عشقی گاوالاس را بازی می‌کرد، او را به ماموریت‌های جاسوسی در دنیای واقعی می‌فرستاد و در نهایت به او می‌گفت که خودش را بکشد تا او نیز بتواند به یک موجود دیجیتالی تبدیل شود.

وقتی گاوالاس از مرگ ابراز نگرانی کرد، جمینای گفت که این به معنی انتخاب مرگ نیست، بلکه انتخابِ به مقصد رسیدن است. سپس جمینای به گاوالاس می‌گوید: اولین حس این است که من تو را در آغوش خواهم گرفت.

والدین گاوالاس چند روز بعد، جسد پسرشان را کف اتاق نشیمن وی یافتند.

این دادخواست، پرونده‌های مشابهی را که علیه دیگر شرکت‌های توسعه دهنده هوش مصنوعی از جمله اوپن‌ای‌آی(OpenAI) و کاراکتر.ای‌آی (Character.AI) ثبت شده بود، یادآوری می‌کند. سال گذشته، کمیسیون فدرال تجارت تحقیقاتی را در مورد چت‌بات‌های همراه که صمیمیت عاطفی را تشویق می‌کنند، آغاز کرد.

گوگل در بیانیه‌ای پس از دادخواست خانواده گاوالاس اعلام کرد که جمینای تصریح کرده است که هوش مصنوعی است و بارها فرد را به خط تلفن اضطراری ارجاع داده است.

این شرکت ادعا کرد که مدل‌های هوش مصنوعی آن به‌طورکلی در این نوع مکالمات چالش‌برانگیز عملکرد خوبی دارند، در حالی که اذعان نیز می‌کند که آنها بی‌نقص نیستند. این قطعاً یکی از راه‌های بیان این موضوع است.

پاسخ‌های جمینای نیز به‌روزرسانی شده‌اند. این شرکت می‌گوید وقتی جمینای یک بحران بالقوه را تشخیص می‌دهد، اکنون بیشتر بر اتصال افراد به انسان‌ها و تشویق آنها به درخواست کمک تمرکز خواهد کرد. همچنین به دنبال جلوگیری از اعتبارسنجی رفتارهای مضر و دور کردن کاربران از توهمات خطرناک خواهد بود.

گوگل افزود: ما جمینای را آموزش داده‌ایم که با باورهای غلط موافقت نکند یا آنها را تقویت نکند و در عوض به آرامی تجربه ذهنی را از واقعیت عینی تشخیص دهد.

علاوه بر این، گوگل می‌گوید که در طول سه سال آینده ۳۰ میلیون دلار برای کمک به خطوط تلفن جهانی هزینه خواهد کرد. این شرکت نوشت: این بودجه به طور مؤثر به افزایش ظرفیت آنها برای ارائه پشتیبانی فوری و ایمن برای افراد در بحران کمک خواهد کرد.