مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

32 خبر
  • مونديال 2026
  • العملية العسكرية الروسية في أوكرانيا
  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران
  • مونديال 2026

    مونديال 2026

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران

    تجدد التوتر وانهيار الحوار بين واشنطن وطهران

  • اصطدمت ببطل أولمبي.. نهاية مأساوية لمؤثرة ألمانية شهيرة خلال شهر عسلها في إيطاليا (صور)

    اصطدمت ببطل أولمبي.. نهاية مأساوية لمؤثرة ألمانية شهيرة خلال شهر عسلها في إيطاليا (صور)

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

"ثغرات SS7".. تقرير استخباراتي يكشف كيف حددت إيران مواقع القوات الأمريكية في بلدان الشرق الأوسط

صور أقمار صناعية حديثة تظهر أضرار هجمات إيران على القواعد الأمريكية في الأردن وسلطنة عُمان وقطر

البنتاغون: مبيعات صواريخ باتريوت لدول الخليج قد تتجاوز 37 مليار دولار

إسرائيل تعلن وفاة كاتس بعد 3 أشهر من إصابته بشظايا صاروخ إيراني

بالفيديو.. ضربات أمريكية على جزيرة طنب الكبرى

تحليل: لماذا يريد ترامب انسحاب إسرائيل من جنوب سوريا وماذا يعني ذلك للجيش الإسرائيلي؟

"الوحدة 417".. الداخلية السورية تعلن اعتقال مهندس تصنيع قنابل السارين وتكشف هويته (صورة)

فانس: إبستين كان على صلة بعناصر من الدولة العميقة الإسرائيلية والموساد (فيديو)

فانس: لن نرسل قوات برية إلى إيران لتغيير النظام ووزراء إسرائيليون يريدون استمرار الحرب لأجل غير مسمى

تدمير رادار "C-RAM" للإنذار المبكر.. إيران تنفيذ عمليات مركبة في الكويت والأردن (فيديو)

سلطنة عمان.. أضرار بفندق يقطنه عسكريون أمريكيون جراء قصف إيراني (فيديو)

ترامب: الإيرانيون سيهزمون قريبا جدا (فيديو)

ردا على ترامب.. إيران تهدد بجعل البنية التحتية في المنطقة "أثرا بعد عين"

الجيش الأمريكي يستهدف ناقلة نفط بصواريخ "هيلفاير" أثناء محاولتها كسر الحصار عن موانئ إيران (فيديو)

سوريا.. إحباط محاولة لتهريب أسلحة وصواريخ من العراق إلى "حزب الله" اللبناني (صور)

عاصفة في الأفق".. إسرائيل في حالة تأهب وسط تهديدات ترامب بمسح محطات الطاقة والجسور الإيرانية