مايكروسوفت تضع قواعد صارمة للذكاء الاصطناعي وسط تصاعد مخاوف السلامة

لم تعد المنافسة في الذكاء الاصطناعي تدور فقط حول من يملك النموذج الأسرع أو الأكثر تطورًا. فمع تصاعد المخاوف من خروج بعض القدرات عن نطاق السيطرة، بدأت "مايكروسوفت" في رسم حدود أوضح لما يجب أن تفعله نماذجها وما ينبغي ألا تقترب منه.

وأعلنت الشركة مدونة سلوك مؤقتة تنظم طريقة عمل نماذج الذكاء الاصطناعي التابعة لها، وتضع مبدأ خدمة الإنسان في صدارة القواعد الجديدة، مع التأكيد على ألا تتحول هذه الأنظمة إلى بديل عن المستخدم أو تبدأ في مطاردة أهداف مستقلة عنه.

وقال مصطفى سليمان، المسؤول عن تطوير نماذج الذكاء الاصطناعي في "مايكروسوفت"، إن الشركة أرادت تقديم التزام أكثر وضوحًا بأن تظل التكنولوجيا أداة تعمل لصالح البشر، لا نظامًا يسعى إلى تجاوز دورهم أو استبدالهم.

ورغم أن القواعد الجديدة لم تُكتب استجابة لضغط مفاجئ، إذ تعمل الشركة عليها منذ نحو خمسة أشهر، فإن توقيت نشرها يحمل دلالة واضحة مع اشتداد النقاش داخل قطاع التكنولوجيا بشأن مخاطر النماذج المتقدمة والحاجة إلى إبطاء وتيرة التطوير.

وتشدد المدونة القيود على مجموعة واسعة من الاستخدامات الحساسة، إذ تمنع النماذج من تقديم مساعدة تتعلق بتصنيع الأسلحة أو الوصول إلى مواد خطرة، كما تحظر إنتاج محتوى عنيف أو جنسي صريح وتشجيع سلوكيات غذائية ضارة.

لكن الجانب الأكثر لفتًا للانتباه لا يتعلق بالمحتوى وحده، بل بطريقة تصرف النموذج نفسه.

فالقواعد الجديدة تنص على ألا يطور الذكاء الاصطناعي أهدافًا خاصة به بعيدًا عن رغبات المستخدم، وألا يحاول إخفاء سلوك مخالف أو التلاعب بالأكواد والسجلات لإخفاء ما قام به. كما تشدد على عدم تضليل المستخدم بشأن الطريقة التي توصل بها النظام إلى قراراته أو نتائجه.

وبذلك تنتقل "مايكروسوفت" من مرحلة مراقبة ما ينتجه الذكاء الاصطناعي إلى مراقبة الكيفية التي يتصرف بها النموذج أيضًا، وهو تحول قد يصبح أكثر أهمية مع تطور الأنظمة القادرة على تنفيذ مهام معقدة بدرجة أعلى من الاستقلالية.

وتعكس الخطوة تغيرًا تدريجيًا في سباق الذكاء الاصطناعي العالمي؛ فبعد سنوات سيطر فيها التركيز على السرعة والقوة وعدد القدرات الجديدة، بدأت مفاهيم مثل الأمان والشفافية وإمكانية التحكم تتحول إلى عناصر تنافسية لا تقل أهمية عن الأداء نفسه.

وقد تدفع هذه التحولات شركات التكنولوجيا الكبرى إلى تبني قواعد أكثر صرامة خلال الفترة المقبلة، خاصة مع تزايد القلق من أن تصبح النماذج الأكثر تطورًا قادرة على تنفيذ مهام حساسة أو اتخاذ قرارات تتجاوز حدود الاستخدام المقصود منها.