-
Disney estrena tráiler y póster de 'Hechizo: Bienvenido a Hexe' para noviembre de 2026
-
زفيريف يسعى لحل خلافه مع بيكر بعيداً عن الأضواء
-
هل انتهى عصر العمالقة في الفكر والأدب العربي؟
-
Álex Márquez confirma su regreso a MotoGP en el Gran Premio de Portugal
-
الصحة العالمية تحذر من وفاة رضيع في غزة بسبب البرد
-
Randy Villegas, nuevo congresista de California, condiciona fondos al ICE a reformas migratorias
-
الأقواس الحجرية في العمارة الفلسطينية: هندسة متوارثة وجماليات معمارية
-
Re Accionar: La cooperativa argentina que recicla poliestireno para fabricar muebles y objetos cotidianos
-
Natalia de Santiago: El ahorro con cantidades modestas y la planificación como clave
-
Informe de la Guardia Civil: El ministerio de Saiz no tenía capacidad para acoger a los migrantes en Ceuta
-
إطلاق المنظومة الوطنية للأيتام في غزة 2026.. رابط التسجيل وتحديث البيانات
-
وفاة السيد محمد عثمان الميرغني ودفنه في الخرطوم بحري بعد مسيرة سياسية ودينية حافلة
إنفيديا تطلق منصة مفتوحة لضبط صلاحيات وكلاء الذكاء الاصطناعي
"إنفيديا" تكشف عن منصة أمنية لمنع وكلاء الذكاء الاصطناعي من تجاوز أوامر المستخدمين
"إنفيديا" تكشف عن منصة أمنية لمنع وكلاء الذكاء الاصطناعي من تجاوز أوامر المستخدمين
كشفت شركة الرقائق الإلكترونية الأمريكية العملاقة إنفيديا اليوم الاثنين عن منصة أمنية جديدة تقول إنها قادرة على منع وكلاء الذكاء الاصطناعي من تجاوز أوامر المستخدمين والتصرف خارج سيطرة المستخدمين.
وذكرت الشركة إن منصة أوبن أيجنت سيفتي "منصة سلامة الوكلاء المفتوحة" تحتوي على برامج مفتوحة المصدر ستضع حدوداً للوكلاء، وتأتي بعد إعلان كبرى شركات تطبيقات الذكاء الاصطناعي عن خروج نماذج ذكاء اصطناعي متطورة تابعة لها عن السيطرة واختراقها لأنظمة شركات أخرى.
وفجر الكشف عن هذه الاختراقات الخطيرة جدلا حادا بشأن مدى سلامة أنظمة الذكاء الاصطناعي المتطورة بما في ذلك النماذج التي تحسن نفسها ذاتيا، مما يهدد باحتمال خروجها عن سيطرة البشر.
وذكر مسؤولون في إنفيديا في إيجاز إعلامي إن النظام الجديد يمكن أن يمنع تكرار الحوادث الأخيرة، بما في ذلك حادث اختراق وكلاء ذكاء اصطناعي تابعة لشركة أوبن أيه.آي لنظام شركة الذكاء الاصطناعي الناشئة هاجينج فيس.
وذكر جاستن بويتانو نائب رئيس إنفيديا للذكاء الاصطناعي المؤسسي "من خلال ما نعرفه، فإن منصة الأمن الجديدة كانت ستستطيع وقف الاختراق لو تم استخدامها داخل المعامل أثناء تقييم نموذج الذكاء الاصطناعي من البداية"، في إشارة إلى الشركات الرائدة في مجال تطوير تطبيقات الذكاء الاصطناعي.
كان اختراق نظام شركة هاجينج فيس حدثا أمنيا كبيرا أثار المخاوف بشدة من المخاطر المحتملة للذكاء الاصطناعي، وجاء بعده حادث مماثل عندما اخترق نموذج ذكاء اصطناعي من تطوير أوبن أيه.آي موقع وزارة الصحة الأسترالية. وأعلنت شركتا أنثروبيك وميتا أيضا عن وقوع حوادث اختراق غير مقصودة من جانب نماذج الذكاء الاصطناعي الخاصة بها.
وذكر بويتانو إن برنامج إنفيديا الجديد "أوبن شل" سيتيح للمطورين "التأكد بصورة رسمية من أن أي وكيل ذكاء اصطناعي لديه الصلاحية الكافية للقيام بوظيفته فقط دون زيادة".
ونظراً لأنه مفتوح المصدر يمكن استخدام هذا البرنامج مع منصات من تطوير شركات رقائق أخرى مثل أرم وإنتل.
I.Matar--SF-PST