ابتكر باحثو شركة الذكاء الاصطناعي «ديب مايند» DeepMind، التابعة لشركة «جوجل»، علامة مائية أطلقوا عليها «سينث آي دي تيكست» SynthID-Text، لوسم النصوص المولَّدة بالذكاء الاصطناعي وسمًا غير مرئي، وعمَّموا تطبيق هذه العلامة على الملايين من مستخدمي تطبيقات الذكاء الاصطناعي المعروفة بروبوتات الدردشة (chatbots). ويُعد هذا أول نموذج فعلي لعلامة مائية تُطبَّق على النصوص؛ علمًا بأنها أصعب وأعقد من العلامات المائية التي تُطبَّق في حالة الصور. وإضافة هذه العلامة المائية إلى النصوص المولَّدة بروبوتات الدردشة، ومنها «جيميني» Gemini، الذي طوَّرته «جوجل»، من شأنها أن تسهم في كشف المعلومات المغلوطة التي منشؤها نصوص مكتوبة بالذكاء الاصطناعي، وفضح محاولات الغش في السياقات الأكاديمية. ومع ذلك، لم يستوثق الباحثون من مدى ثبات هذه العلامة المائية ومقاومتها لمحاولات إزالتها عمدًا. يقول الباحث المتخصص في علوم الحاسب، إيف ألكسندر دي مونتجوي: “عند النظر إلى العلامة المائية من زاوية أمان الذكاء الاصطناعي، فلم يتضح بعدُ إلى أي مدى تقدر هذه العلامة على توفير الحماية”.
المصدر:
https://www.nature.com/articles/s41586-024-08025-4?utm_source=Live+Audience&utm_campaign=c0c3c86b61-briefing-nae_COPY_01&utm_medium=email&utm_term=0_b27a691814-c0c3c86b61-52105372