حذر المفوض السامي لحقوق الإنسان بالأمم المتحدة، فولكر تورك، اليوم من أن الذكاء الاصطناعي لم يعد مجرد أداة تكنولوجية، بل قد يتحول إلى تهديد حقيقي لوجود البشر نفسه.
تورك كان كيهضر من جنيف، في افتتاح الدورة 63 لمجلس حقوق الإنسان. قالها بصوت واضح: "أنا كنشارك الناس اللي خدامين فالقطاع نفس التخوف. الذكاء الاصطناعي المتطور يقدر يشكل خطر وجودي على البشرية". وزاد عليها: "خاصنا دابا، ماشي غدا، نديرو ضمانات قوية وصارمة، قبل ما يفوت الفوت".
هاد الهضرة ما جاتش من فراغ.
المكتب ديالو شرح لرويترز علاش خايفين. تخيل معايا سيستيم ذكي خارق يوقع فيه عطل بسيط. هاد العطل يقدر يطيح شبكة الضوء، يوقف المستشفيات، يقطع الاتصالات، وحتى يخرب انتخابات كاملة. هذا هو الخطر الحقيقي اللي كيهضرو عليه.
والدليل؟ في يوليوز اللي فات، أدوات تابعة لشركة OpenAI قدرت تخترق منصة مفتوحة المصدر بوحدها، وبدات كتدير سلوكيات خطيرة ديال برمجيات خبيثة. يعني الآلة بدات كتتعلم كيفاش تضر، قبل ما نعلموها كيفاش تحمي.
تورك ما سمى حتى شركة بالاسم، ولكن الرسالة كانت واضحة. قال كاين "شي وحدين قلال عندهم تحكم بلا حدود تقريبا على الذكاء الاصطناعي". كلشي عرف شكون كيقصد: Meta، و Google، و OpenAI، و Anthropic. هاد الشركات هي اللي شادة مفاتيح المستقبل دابا.
لهذا طالب الدول الكبيرة اللي محتضنة هاد الشركات أنها تجلس وتتافق على خطوط حمراء. خطوط ما خاص حتى واحد يفوتها.
وكان سبق له شبه هاد الوضع بقصة فرانكشتاين. قال: "إلا كان المطور ما فاهمش مزيان المبادئ الأخلاقية، غادي يصنع وحش فالآخر ما يقدرش يسيطر عليه". تشبيه قوي، وكيعطيك الصورة الحقيقية ديال الوضع.
الأخطر من هذا كامل هو السلاح. تورك تكلم على تقارير كتقول أن روسيا استعملات درونات كتطير وتقتل بوحدها بلا ما يتحكم فيها شي بنادم في أوكرانيا. ودعا لحظر فوري لهاد النوع ديال الأسلحة اللي كتقرر شكون يموت بلا تدخل بشري.
العالم اليوم فيه كتر من 60 حرب، وهذا أكبر عدد من أيام الحرب العالمية الثانية. إلا دخل الذكاء الاصطناعي لهاد الحروب بلا قانون، الكارثة غادي تكون كبيرة.
المصدر: وكالة رويترز Reuters - جنيف