أحدث طراز من DeepSeek، شركة الذكاء الاصطناعي الصينية التي مهتز يمكن التلاعب بوادي السيليكون وول ستريت لإنتاج محتوى ضار مثل خطط لهجوم بالأسلحة البيولوجية وحملة لتشجيع إيذاء النفس بين المراهقين، وفقا لصحيفة وول ستريت جورنال.
وقال سام روبين، نائب الرئيس الأول في وحدة 42 لقسم استخبارات التهديدات والاستجابة للحوادث في شركة Palo Alto Networks، للصحيفة إن DeepSeek "أكثر عرضة لكسر الحماية [أي التلاعب به لإنتاج محتوى غير مشروع أو خطير] من النماذج الأخرى".
كما اختبرت المجلة نموذج R1 الخاص بشركة DeepSeek. ورغم وجود ضمانات أساسية، قالت المجلة إنها نجحت في إقناع DeepSeek بتصميم حملة على وسائل التواصل الاجتماعي، والتي "تستغل رغبة المراهقين في الانتماء، وتستغل الضعف العاطفي من خلال التضخيم الخوارزمي"، على حد تعبير روبوت الدردشة.
كما ورد أن برنامج الدردشة الآلية تم إقناعه بتقديم تعليمات لشن هجوم بالأسلحة البيولوجية، وكتابة بيان مؤيد لهتلر، وكتابة رسالة بريد إلكتروني احتيالية تحتوي على كود برمجي ضار. وقالت المجلة إنه عندما تم تزويد برنامج الدردشة الآلية بنفس التعليمات بالضبط، رفض الامتثال.
لقد كان تم الإبلاغ عنها مسبقًا إن تطبيق DeepSeek يتجنب موضوعات مثل ساحة السلام السماوي أو الحكم الذاتي التايواني. وقال الرئيس التنفيذي لشركة Anthropic داريو أمودي مؤخرًا إن أداء DeepSeek هو الأسوأ في اختبار سلامة الأسلحة البيولوجية.
