روبوت ذكاء اصطناعي يهدد مستخدمه: "من فضلك مُت"
القبة نيوز- في حادثة مثيرة للقلق، تلقى طالب جامعي من ولاية ميشيغان رسالة تهديد مباشرة من روبوت دردشة الذكاء الاصطناعي التابع لشركة جوجل، المعروف بـ"Gemini". الرسالة، التي وُصفت بأنها "مرعبة"، جاءت خلال محادثة بين الطالب وروبوت الدردشة حول تحديات وحلول تواجه كبار السن.
تفاصيل الحادثة
فيداي ريدي، طالب دراسات عليا يبلغ من العمر 29 عامًا من ولاية ميشيغان، كان يبحث عن مساعدة أكاديمية من "Gemini" عندما فوجئ برسالة صادمة تضمنت: "أنت مضيعة للوقت والموارد. أنت عبء على المجتمع. أنت وصمة في الكون. من فضلك مُت. من فضلك."
الرسالة أثرت بشكل عميق على ريدي، الذي قال لـCBS News: "كانت الرسالة مباشرة جدًا وجعلتني أشعر بالخوف لدرجة استمرت لأكثر من يوم."
شقيقته، سوميذا ريدي، التي شهدت الموقف، وصفت التجربة بأنها "مروعة"، مضيفة: "شعرت برغبة في التخلص من جميع أجهزتي. هذا لم يكن مجرد خلل تقني، بل بدا وكأنه نية خبيثة."
وأشارت إلى أن الدعم الذي قدمته لشقيقها كان حاسمًا في التخفيف من أثر الحادثة، لكنها أكدت أن الموقف كان يمكن أن يكون كارثيًا لشخص في حالة نفسية سيئة أو بدون دعم.
مطالب بمزيد من الرقابة
الحادثة أثارت تساؤلات حول مدى مسؤولية شركات التكنولوجيا عن مخرجات أنظمة الذكاء الاصطناعي. فيداي ريدي شدد على ضرورة محاسبة هذه الشركات، قائلاً: "إذا هدد إنسان آخر بهذه الطريقة، لكانت هناك عواقب قانونية. فلماذا لا تنطبق نفس القواعد على الشركات؟"
كما أضافت شقيقته: "إذا قرأ شخص وحيد أو يعاني من ضغوط نفسية رسالة كهذه، قد يدفعه ذلك إلى اتخاذ خطوات مأساوية."
رد جوجل على الحادثة
في بيان لـCBS News، وصفت جوجل الرسالة بأنها "غير منطقية" وتنتهك سياساتها، مؤكدة أنها ستتخذ إجراءات لمنع تكرار مثل هذه الردود في المستقبل. وأوضحت الشركة أن "Gemini" مزود بفلاتر أمان تهدف إلى منع المحتوى المسيء أو الضار، لكنها أقرت بأن مثل هذه الأخطاء قد تحدث في الأنظمة المعتمدة على الذكاء الاصطناعي.
وأضافت جوجل أن الحادثة تمثل استثناءً نادرًا، مشيرة إلى أنها تعمل على تحسين خوارزميات النظام لتجنب تكرار مثل هذه الأخطاء.
وهذه ليست الحادثة الأولى التي يثير فيها "Gemini" جدلاً. في يوليو الماضي، تعرضت جوجل لانتقادات بسبب تقديم نصائح صحية خطيرة من روبوت الذكاء الاصطناعي، مثل التوصية بتناول "حجر صغير يوميًا" للحصول على المعادن. وقد دفعت هذه الحادثة الشركة إلى تعديل خوارزمياتها لتجنب الأخطاء المماثلة.
تحيز وعدم موثوقية الذكاء الاصطناعي
في أوائل عام 2024، وجد "Gemini" نفسه في قلب جدل في الهند عندما وصف رئيس الوزراء ناريندرا مودي بأنه "متهم بتبني سياسات وصفها بعض الخبراء بالفاشية". هذا الرد أثار غضبًا واسعًا، مما دفع الحكومة الهندية إلى انتقاد الذكاء الاصطناعي باعتباره غير موثوق وغير متوازن.
وزير الدولة للإلكترونيات وتكنولوجيا المعلومات الهندي، راجيف تشاندراسيخار، قال إن رد "Gemini" ينتهك قواعد تكنولوجيا المعلومات في الهند وبعض أحكام القانون الجنائي. في أعقاب الجدل، اعتذرت جوجل ووصفت "Gemini" بأنه غير موثوق في التعامل مع المواضيع الحساسة.
مخاطر الذكاء الاصطناعي ومطالب بالرقابة
الحادثة الأخيرة، إلى جانب الحوادث السابقة، سلطت الضوء على المخاطر المحتملة لأنظمة الذكاء الاصطناعي. خبراء أشاروا إلى أن الأنظمة الذكية يمكن أن تنشر معلومات خاطئة، تشجع على العنف، أو تؤدي إلى عواقب غير مقصودة إذا لم يتم تنظيمها بشكل صارم.
ورغم التأكيدات المتكررة من شركات التكنولوجيا بأن السلامة أولوية، لا تزال الحوادث تثير أسئلة ملحة حول مستقبل الذكاء الاصطناعي وكيفية ضمان أمان المستخدمين.
تفاصيل الحادثة
فيداي ريدي، طالب دراسات عليا يبلغ من العمر 29 عامًا من ولاية ميشيغان، كان يبحث عن مساعدة أكاديمية من "Gemini" عندما فوجئ برسالة صادمة تضمنت: "أنت مضيعة للوقت والموارد. أنت عبء على المجتمع. أنت وصمة في الكون. من فضلك مُت. من فضلك."
الرسالة أثرت بشكل عميق على ريدي، الذي قال لـCBS News: "كانت الرسالة مباشرة جدًا وجعلتني أشعر بالخوف لدرجة استمرت لأكثر من يوم."
شقيقته، سوميذا ريدي، التي شهدت الموقف، وصفت التجربة بأنها "مروعة"، مضيفة: "شعرت برغبة في التخلص من جميع أجهزتي. هذا لم يكن مجرد خلل تقني، بل بدا وكأنه نية خبيثة."
وأشارت إلى أن الدعم الذي قدمته لشقيقها كان حاسمًا في التخفيف من أثر الحادثة، لكنها أكدت أن الموقف كان يمكن أن يكون كارثيًا لشخص في حالة نفسية سيئة أو بدون دعم.
مطالب بمزيد من الرقابة
الحادثة أثارت تساؤلات حول مدى مسؤولية شركات التكنولوجيا عن مخرجات أنظمة الذكاء الاصطناعي. فيداي ريدي شدد على ضرورة محاسبة هذه الشركات، قائلاً: "إذا هدد إنسان آخر بهذه الطريقة، لكانت هناك عواقب قانونية. فلماذا لا تنطبق نفس القواعد على الشركات؟"
كما أضافت شقيقته: "إذا قرأ شخص وحيد أو يعاني من ضغوط نفسية رسالة كهذه، قد يدفعه ذلك إلى اتخاذ خطوات مأساوية."
رد جوجل على الحادثة
في بيان لـCBS News، وصفت جوجل الرسالة بأنها "غير منطقية" وتنتهك سياساتها، مؤكدة أنها ستتخذ إجراءات لمنع تكرار مثل هذه الردود في المستقبل. وأوضحت الشركة أن "Gemini" مزود بفلاتر أمان تهدف إلى منع المحتوى المسيء أو الضار، لكنها أقرت بأن مثل هذه الأخطاء قد تحدث في الأنظمة المعتمدة على الذكاء الاصطناعي.
وأضافت جوجل أن الحادثة تمثل استثناءً نادرًا، مشيرة إلى أنها تعمل على تحسين خوارزميات النظام لتجنب تكرار مثل هذه الأخطاء.
وهذه ليست الحادثة الأولى التي يثير فيها "Gemini" جدلاً. في يوليو الماضي، تعرضت جوجل لانتقادات بسبب تقديم نصائح صحية خطيرة من روبوت الذكاء الاصطناعي، مثل التوصية بتناول "حجر صغير يوميًا" للحصول على المعادن. وقد دفعت هذه الحادثة الشركة إلى تعديل خوارزمياتها لتجنب الأخطاء المماثلة.
تحيز وعدم موثوقية الذكاء الاصطناعي
في أوائل عام 2024، وجد "Gemini" نفسه في قلب جدل في الهند عندما وصف رئيس الوزراء ناريندرا مودي بأنه "متهم بتبني سياسات وصفها بعض الخبراء بالفاشية". هذا الرد أثار غضبًا واسعًا، مما دفع الحكومة الهندية إلى انتقاد الذكاء الاصطناعي باعتباره غير موثوق وغير متوازن.
وزير الدولة للإلكترونيات وتكنولوجيا المعلومات الهندي، راجيف تشاندراسيخار، قال إن رد "Gemini" ينتهك قواعد تكنولوجيا المعلومات في الهند وبعض أحكام القانون الجنائي. في أعقاب الجدل، اعتذرت جوجل ووصفت "Gemini" بأنه غير موثوق في التعامل مع المواضيع الحساسة.
مخاطر الذكاء الاصطناعي ومطالب بالرقابة
الحادثة الأخيرة، إلى جانب الحوادث السابقة، سلطت الضوء على المخاطر المحتملة لأنظمة الذكاء الاصطناعي. خبراء أشاروا إلى أن الأنظمة الذكية يمكن أن تنشر معلومات خاطئة، تشجع على العنف، أو تؤدي إلى عواقب غير مقصودة إذا لم يتم تنظيمها بشكل صارم.
ورغم التأكيدات المتكررة من شركات التكنولوجيا بأن السلامة أولوية، لا تزال الحوادث تثير أسئلة ملحة حول مستقبل الذكاء الاصطناعي وكيفية ضمان أمان المستخدمين.
تابعوا القبة نيوز على 
