مفوض حقوق الإنسان في الأمم المتحدة يحذر من خطر وجودي للذكاء الاصطناعي على البشرية
نشرت في
المفوض السامي لحقوق الإنسان في الأمم المتحدة فولكر تورك حذر من أن الذكاء الاصطناعي المتقدم قد يشكل “خطرا وجوديا على البشرية”، داعيا إلى تحرك فوري لجعل هذه التكنولوجيا أكثر أمانا. وأوضح، أثناء مخاطبته مجلس حقوق الإنسان التابع للأمم المتحدة يوم الإثنين، أن البشر يواجهون تهديدات “غير مألوفة، بل غير مسبوقة” لحقوقهم، مشيرا إلى أن “الحاجة إلى حوكمة الذكاء الاصطناعي مُعترف بها على نطاق واسع، لكن أين هو التحرك؟ فالتأخير لا يخدم إلا شركات التكنولوجيا العملاقة، وأصحابها ومن يساندها”. وأضاف أن قلة من الرجال تملك سلطة شبه غير محدودة على هذه التقنيات، “وهو، كما يُقال لنا باستمرار، يتمتع بقدرات حاسوبية لا تُتصوَّر”، متابعا: “إنهم يتحدثون عن الحرية، لكن عند التمحيص يتضح أن الأمر لا يتجاوز حرية استغلال بياناتنا”.
اعلان
اعلان
وأشار تورك بشكل خاص إلى أنظمة ذكاء اصطناعي تخرج من بيئات الاختبار المخصصة لها أو تبتز المطورين لمنعهم من إيقافها، محذرا، بحسب وكالة “AFP”، من أن “أي ذكاء اصطناعي يهرب من بيئة الاختبار أو يبتز المطورين لمنع إيقافه هو ذكاء اصطناعي قوي إلى حد مفرط”. ويبدو أن تصريحاته أحالت جزئيا إلى ما كُشف في يوليو عن أن وكلاء شركة “OpenAI” خرجوا من بيئات يُفترض أنها مُراقَبة وتمكنوا من الوصول إلى خوادم تابعة لمنصة “Hugging Face”، وهي منصة واسعة الاستخدام يتبادل فيها المطورون برمجيات الذكاء الاصطناعي.
وقالت شركة “OpenAI” لاحقا إن هؤلاء الوكلاء نفذوا شفرات برمجية على عشرات خوادم “Hugging Face” وحصلوا على وصول كامل إلى أحدها، في حادثة أعادت إطلاق الدعوات إلى تشديد الرقابة على أنظمة الذكاء الاصطناعي المتقدمة. وقد أبلغت شركات مثل “Anthropic” و”Meta” وغيرها عن حوادث مماثلة أثناء الاختبارات.
وقال تورك: “إنني أتقاسم مع عاملين بارزين في القطاع مخاوفهم من أن يشكل الذكاء الاصطناعي المتقدم خطرا وجوديا على البشرية“. وأضاف: “أدعو هنا، اليوم، إلى بذل جهد شامل لوضع ضمانات راسخة حول سلامة الذكاء الاصطناعي وأمنه، قبل فوات الأوان”.
دعوات إلى ضمانات دولية
وأوضح المفوض السامي لحقوق الإنسان أنه سيكتب خلال الأيام المقبلة إلى شركات الذكاء الاصطناعي، داعيا إياها إلى اتخاذ خطوات فورية لتقليل المخاطر التي تقع ضمن نطاق سيطرتها، ومشددا على أنه “على أقل تقدير، نحتاج إلى أن تجتمع الدول التي تستضيف أنشطة الذكاء الاصطناعي وتلك المشاركة في سلاسل الإمداد الخاصة به حول خطوط حمراء متفق عليها”.
وتابع: “نحتاج إلى آليات تحقق مستقلة، وإلى تعاون أقوى بكثير داخل هذه الصناعة في مجال الأمن”. وأضاف: “علينا أيضا النظر في تأثيرات الذكاء الاصطناعي على حقوق الإنسان في ما يتعلق بممارسات العمل، وعلى المبادئ الأساسية للديمقراطية، وعلى البيئة”.
وفي الاتحاد الأوروبي، يوفر قانون “الذكاء الاصطناعي” إطارا قانونيا لتنظيم هذه التكنولوجيا؛ فبموجب هذا القانون، يتعين على الأنظمة المصنفة عالية المخاطر أن تستوفي شروطا صارمة قبل دخولها سوق الاتحاد الأوروبي، في حين تُحظر الاستخدامات التي تُعد تهديدا غير مقبول لسلامة الناس أو حقوقهم. ويمنع القانون أنظمة الذكاء الاصطناعي المصممة للتلاعب بالأفراد أو استغلالهم، أو لمنحهم نقاطا استنادا إلى سلوكهم، أو للتنبؤ بما إذا كان شخص ما سيرتكب جريمة، أو لجمع الصور عشوائيا لبناء قواعد بيانات للتعرف على الوجوه. كما يحظر تقنيات التعرف على المشاعر في أماكن العمل والمدارس، وبعض أشكال التصنيف البيومتري، ومعظم أنظمة التعرف على الوجوه التي تستخدمها الشرطة بشكل آني في الأماكن العامة، بينما سيدخل حيز التنفيذ في ديسمبر 2026 حظر الصور الجنسية المنتجة بالذكاء الاصطناعي من دون موافقة، والمواد المتعلقة بالاستغلال الجنسي للأطفال.