چت‌جی‌پی‌تی کاربران در معرض خودکشی را لو داد
اوپن‌ای‌آی برآوردهای تازه‌ای از تعداد کاربران چت‌جی‌پی‌تی منتشر کرده که ممکن است نشانه‌هایی از بحران‌های روانی از جمله شیدایی، روان‌پریشی یا افکار خودکشی در هنگام استفاده از چت‌جی‌پی‌تی بروز داده باشند. به گزارش « تجارت آسیا» این شرکت اعلام کرده حدود هفت صدم درصد از کاربران فعال چت‌جی‌پی‌تی در یک هفته معین چنین نشانه‌هایی بروز
اوپن‌ای‌آی برآوردهای تازه‌ای از تعداد کاربران چت‌جی‌پی‌تی منتشر کرده که ممکن است نشانه‌هایی از بحران‌های روانی از جمله شیدایی، روان‌پریشی یا افکار خودکشی در هنگام استفاده از چت‌جی‌پی‌تی بروز داده باشند.
به گزارش « تجارت آسیا» این شرکت اعلام کرده حدود هفت صدم درصد از کاربران فعال چت‌جی‌پی‌تی در یک هفته معین چنین نشانه‌هایی بروز داده‌اند و افزوده که هوش مصنوعی این چت‌بات توانایی تشخیص و پاسخ به گفت‌وگوهای حساس از این نوع را دارد.
اوپن‌ای‌آی تاکید کرده که این موارد «بسیار نادر» هستند، اما ناظران می‌گویند حتی چنین درصد کوچکی می‌تواند معادل صدها هزار نفر باشد، زیرا طبق گفته مدیرعامل این شرکت، سم آلتمن، شمار کاربران هفتگی چت‌جی‌پی‌تی به حدود ۸۰۰ میلیون نفر رسیده است.
همزمان با افزایش نگرانی و توجه عمومی به تاثیرات مکالمات انسانی با هوش مصنوعی، شرکت اوپن ای‌آی اعلام کرده که شبکه‌ای از کارشناسان در سراسر جهان برای مشاوره و راهنمایی در این زمینه تشکیل داده است.
به گفته شرکت اوپن‌ای‌آی شبکه کارشناسانی که دعوت به همکاری شده‌اند شامل بیش از ۱۷۰ روان‌پزشک، روان‌شناس و پزشک عمومی است که در ۶۰ کشور فعالیت دارند.
این متخصصان مجموعه‌ای از پاسخ‌های ازپیش‌طراحی‌شده را برای چت‌جی‌پی‌تی تدوین کرده‌اند تا کاربران را به جست‌وجوی کمک واقعی در دنیای بیرون تشویق کند.
با این حال، انتشار بخشی از داده‌های داخلی این شرکت باعث نگرانی شماری از متخصصان سلامت روان شده است.
دکتر جیسن نگاتا، استاد دانشگاه ایالتی کالیفرنیا در سان‌فرانسیسکو که در زمینه تاثیر فناوری بر جوانان پژوهش می‌کند، معتقد است: «هرچند عدد هفت صدم درصد کوچک به نظر می‌رسد، اما در مقیاس جمعیتی با صدها میلیون کاربر، این رقم در واقع بسیار قابل توجه است.»
او افزود: «هوش مصنوعی می‌تواند دسترسی به حمایت‌های سلامت روان را گسترش دهد و از جهاتی به آن کمک کند، اما باید نسبت به محدودیت‌هایش آگاه باشیم.»
به گفته اوپن‌ای‌آی، حدود پانزده صدم درصد از کاربران چت‌جی‌پی‌تی در گفت‌وگوهایشان نشانه‌های آشکار از برنامه‌ریزی یا قصد احتمالی خودکشی بروز داده‌اند.
این شرکت اعلام کرد که به‌روزرسانی‌های اخیر این چت‌بات برای آن طراحی شده‌اند که «به‌طور ایمن و همدلانه به نشانه‌های احتمالی توهم یا شیدایی واکنش نشان دهد» و همچنین «نشانه‌های غیرمستقیم از خطر خودآزاری یا خودکشی» را تشخیص دهد.
چت‌جی‌پی‌تی همچنین آموزش دیده تا گفت‌وگوهای حساس را که «از مدل‌های دیگر آغاز می‌شوند» به «مدل‌های ایمن‌تر» منتقل کند؛ این انتقال از طریق باز شدن پنجره‌ای جدید انجام می‌شود.
اوپن‌ای‌آی در پاسخ به پرسش بی‌بی‌سی درباره نگرانی‌ها پیرامون شمار کاربران بالقوه درگیر گفت این درصد اندک نیز «به معنای شمار قابل توجهی از افراد است» و تاکید کرد که شرکت «این موضوع را بسیار جدی» می‌گیرد.
این تغییرات در حالی صورت می‌گیرد که اوپن‌ای‌آی با افزایش فشارهای حقوقی در مورد نحوه تعامل چت‌جی‌پی‌تی با کاربران روبه‌روست.
در یکی از پرسر‌و‌صداترین پرونده‌های قضایی اخیر، به یک زوج در ایالت کالیفرنیا مرتبط بود که از اوپن‌ای‌آی به‌دلیل مرگ پسر نوجوانشان شکایت کرده‌اند و مدعی‌اند چت‌جی‌پی‌تی او را در ماه آوریل گذشته به خودکشی تشویق کرده است.
این شکایت از سوی والدین «آدام رین» ۱۶ ساله مطرح شده و نخستین پرونده‌ای است که شرکت اوپن‌ای‌آی را به مرگ غیرقانونی متهم می‌کند.
در پرونده‌ای جداگانه نیز مظنون یک قتل-خودکشی در ماه آگوست گذشته در شهر گرینویچ ایالت کانتیکت، ساعاتی از گفت‌وگوهای خود با چت‌جی‌پی‌تی را در اینترنت منتشر کرده بود که به نظر می‌رسد به «توهمات او دامن زده است».
پروفسور رابین فلدمن، مدیر موسسه «قانون و نوآوری هوش مصنوعی» در دانشگاه کالیفرنیا، گفت: «کاربران بیشتری دچار پدیده‌ای می‌شوند که می‌توان آن را روان‌پریشی ناشی از هوش مصنوعی نامید، زیرا چت‌بات‌ها توهم واقعیت را ایجاد می‌کنند. این توهم بسیار قدرتمند است.»
او افزود که اوپن‌ای‌آی شایسته تحسین است چون «آمار را منتشر کرده و برای حل مشکل تلاش می‌کند»، اما هشدار داد:
«این شرکت می‌تواند هشدارهای متعددی روی صفحه بگذارد، اما فردی که در وضعیت روانی خطرناک است ممکن است نتواند آن هشدارها را درک یا جدی بگیرد.»
برچسب ها :بحران‌های روانی ، چت‌جی‌پی‌تی ، روان‌پریشی ، روان‌شناس
- نظرات ارسال شده توسط شما، پس از تایید توسط مدیران سایت منتشر خواهد شد.
- نظراتی که حاوی تهمت یا افترا باشد منتشر نخواهد شد.
- نظراتی که به غیر از زبان فارسی یا غیر مرتبط با خبر باشد منتشر نخواهد شد.
ارسال نظر شما
مجموع نظرات : 0 در انتظار بررسی : 0 انتشار یافته : 0