قالت شركة Meta، الشركة الأم، إن Instagram ستختبر ميزات تعمل على طمس المنشورات التي تحتوي على عُري لحماية المراهقين ومنع المحتالين المحتملين من الوصول إليهم، وذلك كجزء من جهودها لمعالجة المخاوف بشأن المحتوى الضار على تطبيقاتها.
وتتعرض شركة التكنولوجيا العملاقة لضغوط متزايدة في الولايات المتحدة وأوروبا بسبب اتهامات بأن تطبيقاتها تسبب الإدمان وتسبب مشاكل في الصحة العقلية بين الشباب، وقالت ميتا إن ميزة أمان الرسائل المباشرة في Instagram ستستخدم التعلم الآلي على الجهاز لتحليل ما إذا كانت الصورة عبر الصورة أم لا. المرسلة من قبل الخدمة تحتوي على عُري.
يتم تمكين الميزة افتراضيًا للمستخدمين الذين تقل أعمارهم عن 18 عامًا وسيقوم Meta بإخطار البالغين لتشجيعهم على تمكين هذه الميزة. وقالت الشركة: “نظرًا لأنه يتم تحليل الصور على الجهاز نفسه، فإن حماية العري ستعمل في النهاية أيضًا – لإنهاء الدردشات المشفرة، حيث لا يستطيع Meta الوصول إلى هذه الصور – ما لم يختر شخص ما إبلاغنا بها”.
وعلى عكس تطبيقات Meta's Messenger وWhatsApp، لا يتم تشفير الرسائل المباشرة على Instagram، لكن الشركة قالت إنها تخطط لطرح التشفير في الخدمة.
وقالت Meta أيضًا إنها تعمل على تطوير تقنية للمساعدة في تحديد الحسابات التي قد تكون متورطة في عمليات الاحتيال الجنسي وتختبر رسائل منبثقة جديدة للمستخدمين الذين ربما تفاعلوا مع هذه الحسابات. وفي يناير، قال عملاق وسائل التواصل الاجتماعي إنه سيخفي المزيد من المحتوى عن المراهقين على فيسبوك وإنستغرام، مضيفًا أن هذا سيجعل من الصعب عليهم العثور على محتوى حساس مثل الانتحار وإيذاء النفس واضطرابات الأكل.
ورفع المدعون العامون في 33 ولاية أمريكية، بما في ذلك كاليفورنيا ونيويورك، دعوى قضائية ضد الشركة في أكتوبر/تشرين الأول بتهمة تضليل الجمهور بشكل متكرر بشأن مخاطر منصاتها. وفي أوروبا، طلبت المفوضية الأوروبية معلومات حول كيفية حماية Meta للأطفال من المحتوى غير القانوني والضار.
