حذّرت مجموعة “ميتا” العملاقة في القطاع الرقمي من الخطر المتزايد المتمثل في استخدام الذكاء الاصطناعي التوليدي في عمليات احتيال رومانسية عبر الإنترنت.
وتتيح هذه الأدوات للمحتالين الاختباء وراء صورة فيديو أُنشئت بصوت مزيف، مما يتيح لهم الرد على مكالمات الفيديو وبالتالي انتحال شخصيات أخرى.
واستشهد المسؤول عن التهديدات العالمية في “ميتا” ديفيد أغرانوفيتش بمثال مجموعة من المجرمين الإلكترونيين تنشط في كمبوديا وتستهدف تحديدا أشخاصا ناطقين باليابانية أو الصينية.
وأفاد باحثون في شركة “أوبن إيه آي” التي ابتكرت تطبيق “تشات جي بي تي” بأن المجموعة استخدمت برنامج الشركة الناشئة لإنشاء محتوى وترجمته، بحسب “ميتا”.
ويتمثل الهدف الرئيسي للمحتالين في سلب ضحاياهم، بعد أن يأخذوا الوقت اللازم لبناء علاقات وجعلهم يثقون بهم، ويجدون تدريجا طريقة للحصول على الأموال أو البيانات الشخصية التي يسعون إلى جمعها.
ويستخدمون شبكات التواصل الاجتماعي كافة لتحقيق هذه الغاية، علما بأن لدى “ميتا” قدرة على اكتشاف جزء فحسب من هذا النشاط، وفق أغرانوفيتش.
وأوضح أن المجموعة تعتمد على الأنماط السلوكية والإشارات التقنية بدلاً من تحليل الصور لرصد عمليات الاحتيال. وقال “هذا يجعل قدرتنا على الرصد أكثر قوة ضد الذكاء الاصطناعي التوليدي”.
ونبهت “ميتا” مستخدميها إلى ضرورة توخي الحذر، شارحة أن العزلة والكآبة اللتين غالبا ما تصاحبان فترة الشتاء، بالإضافة إلى اقتراب عيد الحب، تجعل هذه الفترة من السنة مناسِبةً للمحتالين.
ونصحت المسؤولة في “ميتا” رايتشل توباك المستخدمين بأن يكونوا “مرتابين من دون أن يظهروا ذلك” عندما تتجه أية محادثة عبر الإنترنت نحو البعد الرومانسي، وخصوصا إذا ترافقت مع طلب الحصول على مبالغ مالية بحجة حالة طوارئ أو فرصة مهنية.
يشهد الذكاء الاصطناعي التوليدي انتشارا واسعا منذ نحو عام، لكنّ استخدامه لمحاولات الاحتيال تسارَعَ في الأشهر الأخيرة، وتوافر الأدوات، في كثير من الأحيان مجانا، يمَكِّن المحتالين من إنشاء شخصية افتراضية مقنعة.
وقالت توباك “يمكنهم حتى استخدام البرمجيات الآلية التي تُنشأ بواسطة الذكاء الاصطناعي والقادرة على التواصل مع الإنسان (اي ما يُعرف باسم بوتس، لبناء شخصية أو إجراء مكالمات بصوت مزيف دون الحاجة إلى تدخل بشري”.
