-
زفيريف يسعى لحل خلافه مع بيكر بعيداً عن الأضواء
-
Vacina de mRNA contra múltiplas alergias alimentares mostra resultados promissores em estudo com camundongos
-
هل انتهى عصر العمالقة في الفكر والأدب العربي؟
-
الصحة العالمية تحذر من وفاة رضيع في غزة بسبب البرد
-
ANACOM renova licenças sem concurso e penaliza consumidores em 3,5 mil milhões
-
الأقواس الحجرية في العمارة الفلسطينية: هندسة متوارثة وجماليات معمارية
-
Detenção de Fernando Cardoso marca sessão extraordinária da Assembleia do Porto
-
إطلاق المنظومة الوطنية للأيتام في غزة 2026.. رابط التسجيل وتحديث البيانات
-
وفاة السيد محمد عثمان الميرغني ودفنه في الخرطوم بحري بعد مسيرة سياسية ودينية حافلة
إنفيديا تطلق منصة مفتوحة لضبط صلاحيات وكلاء الذكاء الاصطناعي
"إنفيديا" تكشف عن منصة أمنية لمنع وكلاء الذكاء الاصطناعي من تجاوز أوامر المستخدمين
"إنفيديا" تكشف عن منصة أمنية لمنع وكلاء الذكاء الاصطناعي من تجاوز أوامر المستخدمين
كشفت شركة الرقائق الإلكترونية الأمريكية العملاقة إنفيديا اليوم الاثنين عن منصة أمنية جديدة تقول إنها قادرة على منع وكلاء الذكاء الاصطناعي من تجاوز أوامر المستخدمين والتصرف خارج سيطرة المستخدمين.
وذكرت الشركة إن منصة أوبن أيجنت سيفتي "منصة سلامة الوكلاء المفتوحة" تحتوي على برامج مفتوحة المصدر ستضع حدوداً للوكلاء، وتأتي بعد إعلان كبرى شركات تطبيقات الذكاء الاصطناعي عن خروج نماذج ذكاء اصطناعي متطورة تابعة لها عن السيطرة واختراقها لأنظمة شركات أخرى.
وفجر الكشف عن هذه الاختراقات الخطيرة جدلا حادا بشأن مدى سلامة أنظمة الذكاء الاصطناعي المتطورة بما في ذلك النماذج التي تحسن نفسها ذاتيا، مما يهدد باحتمال خروجها عن سيطرة البشر.
وذكر مسؤولون في إنفيديا في إيجاز إعلامي إن النظام الجديد يمكن أن يمنع تكرار الحوادث الأخيرة، بما في ذلك حادث اختراق وكلاء ذكاء اصطناعي تابعة لشركة أوبن أيه.آي لنظام شركة الذكاء الاصطناعي الناشئة هاجينج فيس.
وذكر جاستن بويتانو نائب رئيس إنفيديا للذكاء الاصطناعي المؤسسي "من خلال ما نعرفه، فإن منصة الأمن الجديدة كانت ستستطيع وقف الاختراق لو تم استخدامها داخل المعامل أثناء تقييم نموذج الذكاء الاصطناعي من البداية"، في إشارة إلى الشركات الرائدة في مجال تطوير تطبيقات الذكاء الاصطناعي.
كان اختراق نظام شركة هاجينج فيس حدثا أمنيا كبيرا أثار المخاوف بشدة من المخاطر المحتملة للذكاء الاصطناعي، وجاء بعده حادث مماثل عندما اخترق نموذج ذكاء اصطناعي من تطوير أوبن أيه.آي موقع وزارة الصحة الأسترالية. وأعلنت شركتا أنثروبيك وميتا أيضا عن وقوع حوادث اختراق غير مقصودة من جانب نماذج الذكاء الاصطناعي الخاصة بها.
وذكر بويتانو إن برنامج إنفيديا الجديد "أوبن شل" سيتيح للمطورين "التأكد بصورة رسمية من أن أي وكيل ذكاء اصطناعي لديه الصلاحية الكافية للقيام بوظيفته فقط دون زيادة".
ونظراً لأنه مفتوح المصدر يمكن استخدام هذا البرنامج مع منصات من تطوير شركات رقائق أخرى مثل أرم وإنتل.
I.Matar--SF-PST