مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

37 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • هدنة وحصار المضيق
  • فيديوهات
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • فيديوهات

    فيديوهات

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • نبض الملاعب

    نبض الملاعب

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

في سابقة منذ حرب الخليج 1991.. دولة عربية لم تصدر أي قطرة نفط خلال أبريل المنصرم

ناقلة إيرانية تحمل حوالي 2 مليون برميل نفط تفلت من الحصار الأمريكي

الكابينت الإسرائيلي يبحث استئناف الحرب على غزة وواشنطن تشهر "الأحمر" وتسمح بـ"جز العشب" فقط

مصادر لـ"أكسيوس" تكشف عن طرح إيراني متكامل لفتح مضيق هرمز وإنهاء الحرب في لبنان

هل ساعدت الولايات المتحدة الحوثيين في اليمن عن غير قصد؟

استبدال الموانئ الإماراتية.. خطوة إيرانية لإعادة تشكيل خريطة الترانزيت الإقليمي عبر باكستان

"قناة 12" عن مصادر: إسرائيل تستعد لاحتمال شن الولايات المتحدة هجوما قريبا على إيران

"العصر الذهبي" الأمريكي بقيادة ترامب "مجمد" في مياه الخليج.. ما علاقة الإمارات والسعودية؟

بولتون يهاجم ترامب: لو ألقى نظرة على الخريطة ولو لمرة واحدة لأدرك أهمية مضيق هرمز (فيديو)

وزير الطاقة الإسرائيلي: أمام إيران خياران لا ثالث لهما أحدهما موجع (فيديو)

"جهة واحدة لن تمر عبره".. مسؤول إيراني يكشف تفاصيل مشروع قانون جديد أعدته بلاده لإدارة هرمز

مراسلتنا: مقاتلات أردنية تستهدف نقاط تجار مخدرات بمحافظة السويداء السورية (فيديو)

زاخاروفا: روسيا لن تسمح للأمم المتحدة بإخفاء رؤوسها في الرمل

لحظة بلحظة.. الجيش الإسرائيلي يواصل غاراته على بلدات وقرى جنوب لبنان

نتنياهو يعلن عن تحرك عاجل منه شخصيا بهدف "إحباط تهديد المسيرات"