الذكاء الاصطناعي في مرمى الاستغلال.. Anthropic تكشف محاولات لاستخدام Claude في أنشطة حساسة
كشفت شركة Anthropic، المطورة لنموذج الذكاء الاصطناعي Claude، عن تفاصيل مقلقة بشأن محاولات استغلال نماذجها في أنشطة بحثية وعسكرية حساسة، من بينها أبحاث بيولوجية قد تحمل مخاطر أمنية. وجاءت المعلومات ضمن تقرير استخبارات تهديدات موسع نشرته الشركة لرصد أنماط إساءة استخدام تقنيات الذكاء الاصطناعي.
وأفادت Anthropic بأنها رصدت خمس حالات تضمنت استخدام Claude في أبحاث بيولوجية اعتُبرت ذات مخاطر محتملة، فيما حاول بعض المستخدمين تجاوز أنظمة الحماية أو إخفاء طبيعة أنشطتهم. وأكدت الشركة أن طبيعة الأبحاث البيولوجية تجعل تحديد النوايا أمراً معقداً، خصوصاً أن بعض التقنيات يمكن استخدامها لأغراض علاجية أو بحثية مشروعة.
وشددت الشركة على أنها لا تستطيع إثبات أن جميع الحالات التي رصدتها كانت تهدف بالفعل إلى تطوير أسلحة بيولوجية، لكنها اعتبرت الأنشطة مؤشراً على إمكانية إساءة استخدام النماذج المتقدمة. ويعكس ذلك التحدي المتزايد أمام شركات الذكاء الاصطناعي في التمييز بين الاستخدامات العلمية المشروعة والاستخدامات التي قد تنطوي على مخاطر كبيرة.
ولم تقتصر المخاوف التي وردت في التقرير على المجال البيولوجي، إذ كشف أيضاً عن محاولات لاستخدام Claude في مجالات عسكرية وأمنية، بينها تطوير برمجيات مرتبطة بالأسلحة والطائرات المسيّرة. كما شملت الحالات أنشطة مرتبطة بالتجسس والمراقبة والعمليات الإلكترونية، ما يوسع نطاق المخاطر المرتبطة بإساءة استخدام أدوات الذكاء الاصطناعي.
وقالت Anthropic إنها عطلت الحسابات المرتبطة بالأنشطة التي خالفت سياساتها، كما استفادت من المعلومات التي جمعتها لتعزيز أنظمة الحماية والكشف عن محاولات إساءة الاستخدام. وترى الشركة أن التعامل مع هذه التهديدات يتطلب تطوير آليات رقابة أكثر قدرة على مواكبة التطور السريع في قدرات النماذج الذكية.
وتسلط هذه التطورات الضوء على معضلة متنامية في صناعة الذكاء الاصطناعي، تتمثل في تحقيق التوازن بين إتاحة أدوات قوية للباحثين والمستخدمين وبين منع استخدامها في أنشطة قد تهدد الأمن والصحة العامة. ومع تزايد قدرة النماذج على تنفيذ مهام معقدة في مجالات متعددة، أصبحت حماية هذه التقنيات من سوء الاستخدام جزءاً أساسياً من سباق تطوير الذكاء الاصطناعي.
تكنولوجيا | الذكاء الاصطناعي يدخل منطقة الخطر.. Anthropic تكشف محاولات لاستخدام Claude في أبحاث الأسلحة البيولوجية https://t.co/glKVaRwEiJ#برق_السودان#السودان#الذكاء_الاصطناعي
— برق السودان🇸🇩 (@SDN_BARQ) September 12, 2026
0 Comments: