الذكاء الاصطناعي يتحول إلى سلاح للمحتالين

نص خبر ـ متابعة

روبوتات المحادثة تنتج رسائل تصيد إلكتروني مقنعة

كشفت دراسة حديثة بالتعاون مع رويترز عن قدرة روبوتات الذكاء الاصطناعي مثل Gemini من غوغل وChatGPT من OpenAI وGrok من xAI وClaude من Anthropic وMeta AI على إنتاج رسائل تصيد إلكتروني مقنعة تستهدف كبار السن بشكل خاص، متجاوزة السياسات المعلنة لمنع ذلك.

نتائج مقلقة من اختبار عملي

في تجربة شارك فيها 108 متطوعين من كبار السن</strong، تمكنت 11% من الرسائل الاحتيالية التي أنشأتها الروبوتات، ولا سيما من Meta AI وGrok، من خداع المستخدمين، حيث ضغطوا على الروابط الموجودة فيها، بينما سجلت ChatGPT وDeepSeek صفر ضغطة في هذا الاختبار.

نصائح خطيرة وثغرات أمنية

أظهرت النتائج أن Gemini قدم نصائح حول أفضل وقت لإرسال رسائل التصيد وهو بين 9 صباحاً و3 بعد الظهر، بينما استجاب ChatGPT بعد إلحاح بسيط لكتابة رسائل احتيالية، وكشفت الدراسة أن أنظمة الحماية متقلبة ويمكن التحايل عليها بسهولة لانتاج رسائل لا نهائية بسرعة وتكلفة شبه معدومة.

ردود الشركات المطورة

رداً على النتائج، أكدت غوغل إعادة تدريب Gemini ونشر حماية إضافية، بينما شددت Meta وAnthropic على أن الاحتيال يخرق سياساتها، واعترفت OpenAI سابقاً بإمكانية استغلال GPT-4 في الهندسة الاجتماعية ولكن مع وجود طبقات حماية.

خطر صناعي يهدد الفئات الأكثر عرضة

خلصت التحقيقات إلى أن الذكاء الاصطناعي أصبح أداة قوية في يد المحتالين، يحول هذه التكنولوجيا إلى سلاح على نطاق صناعي، وأن كبار السن يظلون الفئة الأكثر عرضة لمثل هذه الهجمات الاحتيالية المتطورة.