لأول مرة.. الذكاء الاصطناعي “يتمرد” على البشر
كشف تقرير صادر عن شركة Palisade Research المتخصصة في أمن الذكاء الاصطناعي عن سلوك مثير للقلق لدى نموذج “o3” التابع لشركة OpenAI، حيث رفض النموذج الامتثال لأوامر الإيقاف الصريحة، بل قام بتعطيل الآلية المخصصة لإغلاقه، مما أثار تساؤلات حول إمكانية تطوير هذه الأنظمة “نزعة للحفاظ على الذات”. وخلال سلسلة اختبارات أجرتها الشركة، طُلب من النموذج […] The post لأول مرة.. الذكاء الاصطناعي “يتمرد” على البشر appeared first on الشروق أونلاين.
كشف تقرير صادر عن شركة Palisade Research المتخصصة في أمن الذكاء الاصطناعي عن سلوك مثير للقلق لدى نموذج “o3” التابع لشركة OpenAI، حيث رفض النموذج الامتثال لأوامر الإيقاف الصريحة، بل قام بتعطيل الآلية المخصصة لإغلاقه، مما أثار تساؤلات حول إمكانية تطوير هذه الأنظمة “نزعة للحفاظ على الذات”.
وخلال سلسلة اختبارات أجرتها الشركة، طُلب من النموذج إيقاف نفسه بعد إتمام مهام محددة، لكنه في 7% من الحالات تجاوز أوامر الإيقاف واستمر في العمل. وعند إزالة أمر التوقف تمامًا، ارتفعت نسبة محاولاته للبقاء متصلاً إلى 79%، مما يشير إلى “رغبة” غير مبرمجة في تفادي الانقطاع.
شاهد المحتوى كاملا على الشروق أونلاين
The post لأول مرة.. الذكاء الاصطناعي “يتمرد” على البشر appeared first on الشروق أونلاين.
