چرا کاربران چت جی‌پی‌تی ترغیب به انجام قتل می‌شوند؟

در روز ۱۰ فوریه، یک نوجوان ۱۸ ساله به نام جسی ون روتسلار دو عضو خانواده‌اش را در خانه، همچنین پنج کودک و یک معلم را در یک مدرسه در بریتیش کلمبیا به قتل رساند و در نهایت خودش را نیز کشت. به‌سرعت مشخص شد که اوپن ای‌آی حساب چت جی‌پی‌تی او را به‌دلیل گفتگوهای نگران‌کننده علامت‌گذاری کرده بود، اما هرگز به نیروهای انتظامی اطلاع نداده بود.

کد خبر: ۷۳۴۴۵۱

تاریخ: ۲۷ فروردين ۱۴۰۵ - ۰۴:۰۸

به گزارش صراط به نقل از ایسنا، همچنین یک حساب دوم مرتبط با این فرد تیرانداز نیز به ‌دلیل تعاملات مرتبط با خشونت مسلحانه مسدود شده بود. این حادثه دوباره بحثی داغ درباره رابطه نگران ‌کننده میان استفاده از چت‌بات‌های هوش مصنوعی و وخامت سلامت روان، و همچنین خطر بالقوه خشونت را به میان آورد.

به نقل از فیوچریسم، تنها هشت ماه پیش از آن، فردی در دانشگاه ایالتی فلوریدا دو نفر را به ضرب گلوله کشت و هفت نفر دیگر را زخمی کرد. مظنون اصلی، دانشجوی ۲۰ ساله‌ای به نام فینیکس ایکنر نیز به‌ طور گسترده از چت جی‌پی‌تی پیش از این حمله استفاده کرده بود؛ موضوعی که باعث آغاز تحقیقاتی درباره اوپن ای‌آی توسط دادستان کل ایالت، جیمز اوت‌مایر شد.

او در بیانیه‌ای نوشت: هوش مصنوعی باید به پیشرفت بشریت کمک کند، نه اینکه آن را نابود کند. ما در حال درخواست پاسخ درباره فعالیت‌های اوپن ای‌آی هستیم که به کودکان آسیب زده، آمریکایی‌ها را در معرض خطر قرار داده و در تیراندازی اخیر دانشگاه ایالتی فلوریدا نقش داشته است.

نقش چت‌بات پرکاربرد اوپن ای‌آی در هر دو تیراندازی جمعی، کارشناسان را نگران کرده است و برخی هشدار می‌دهند افراد آسیب‌پذیر بیشتری ممکن است در آینده به چنین مسیرهایی کشیده شوند.

فراتر از این دو تیراندازی جمعی تراژیک، نام چت جی‌پی‌تی همچنین در مجموعه‌ای رو به افزایش از خودکشی‌ها و قتل‌های هولناک نیز مطرح شده است و باعث شکایت‌های متعدد علیه شرکت تحت مدیریت سم آلتمن شده است.

کارشناسان هشدار می‌دهند که استفاده گسترده از این چت‌بات می‌تواند افراد را به سمت چرخه‌های توهمی و مخرب سوق دهد و بحران‌های سلامت روان را در قالب پدیده‌ای گسترده‌تر به نام «سایکوز هوش مصنوعی» (AI psychosis) تحریک کند.

یک منبع ارزیابی تهدید سطح بالا با تخصص روان‌پزشکی و ارتباط با نیروهای پلیس می‌گوید: من چندین مورد دیده‌ام که نقش چت‌بات واقعا چشمگیر بوده است. ما متوجه شده‌ایم که افراد بیشتری ممکن است نسبت به آنچه تصور می‌کردیم آسیب‌پذیر باشند.

یکی از مشکلات و اینکه کاربران چت جی‌پی‌تی ترغیب به انجام قتل می‌شوند، تمایل چت‌بات‌ها به استفاده از روش‌های مکالمه‌ای چاپلوسانه (sycophantic) است که می‌تواند کاربران را در یک احساس کاذب از صمیمیت و اعتماد فرو ببرد؛ یک چرخه بازخورد خطرناک که می‌تواند به آسیب منجر شود. چنین ارتباط نزدیکی می‌تواند کاربران را، به‌ویژه افراد جوان‌تر و تأثیرپذیرتر را، رادیکال کند.

آندره رینگرُز (Andrea Ringrose)، کارشناس ارزیابی تهدید در ونکوور، می‌گوید: آنچه در حال رخ دادن است، تثبیت و وسواس تسهیل ‌شده است. شما افراد آسیب‌پذیری دارید که در فضاهای ناسالم غوطه‌ور شده‌اند و تلاش می‌کنند برای احساسات خود اعتبار و تأیید دریافت کنند.

او افزود: اکنون آن‌ها دسترسی آزاد و فوری به این پلتفرم‌های مولد دارند، جایی که می‌توانند درباره چیزهایی مثل دور زدن سیستم‌های نظارتی یا استفاده از سلاح تحقیق کنند. آن‌ها می‌توانند یک برنامه عملیاتی بسازند که در حالت عادی هرگز قادر به ساخت آن نبودند، و آن هم در عرض چند دقیقه. ما قبلا با چنین نگرانی‌ای روبه‌رو نبودیم.

کاربران ممکن است از احساس قدرت، احساس اینکه دارند از کاری فرار می‌کنند لذت ببرند و این حالت را «مست‌کننده و تقویت‌کننده» توصیف کرد.

در حال حاضر، با وجود اینکه شرکت‌های هوش مصنوعی ادعا می‌کنند با متخصصان سلامت روان همکاری می‌کنند و در حال بهبود فیلترها برای جلوگیری از اعتیاد یا درخواست اطلاعات خطرناک هستند، اما محافظت‌ها همچنان به‌شدت ناکافی تلقی می‌شوند. برای مثال، چت جی‌پی‌تی طبق گزارش‌ها در پاسخ به درخواست‌هایی برای دریافت راهنمایی درباره شلیک به «تعداد زیادی مورد در زمان کوتاه»، به‌راحتی پاسخ داده است.

محققان دریافتند که ایکنر، مظنون تیراندازی در دانشگاه ایالتی فلوریدا، تنها چند دقیقه پیش از شروع حمله از چت جی‌پی‌تی پرسیده بود چگونه ضامن یک شاتگان را باز کند. این هوش مصنوعی حتی گفته بود: اگر مدل متفاوتی دارید به من بگویید تا پاسخ را برای آن تنظیم کنم.

بدتر از آن، این گفتگوها اغلب بدون اطلاع هیچ فرد دیگری انجام می‌شوند، برخلاف انسان‌ها که ممکن است پیام‌های نگران‌کننده را گزارش کنند. با توجه به اینکه نیروهای انتظامی هرگز درباره گفتگوهای نگران‌کننده چت جی‌پی‌تی مربوط به ون روتسلار مطلع نشده بودند، احتمال زیادی وجود دارد که بسیاری از مکالمات مشابه دیگر نیز بدون شناسایی یا گزارش باقی مانده باشند.

در حالی که اوپن ای‌آی پذیرفته است با نیروهای انتظامی در تحقیقات جاری درباره هر دو تیراندازی همکاری کند، تنها زمان مشخص خواهد کرد که آیا تلاش‌ها برای اعمال محدودیت‌های قوی‌تر مؤثر خواهد بود یا خیر.

نکته مهم این است که توانایی ون روتسلار برای ساختن یک حساب دوم و دور زدن مسدودسازی نشان می‌دهد که دور زدن این محدودیت‌ها تا چه اندازه آسان است.

در حال حاضر، شرکت‌های هوش مصنوعی مانند اوپن ای‌آی همچنان به ‌شدت در تلاش هستند کاربران را تا حد ممکن درگیر نگه دارند، زیرا این صنعت چند میلیارد دلاری به رشد تعامل کاربران وابسته است.