أوقفت Google مهندسًا بعد أن كشف عن قدرات روبوت محادثة على جهاز كمبيوتر يقوم بتطويره ، ولديه إمكانيات كبيرة.
كان Blake Lemoine يطور روبوت محادثة للشركة قبل أن يتم اصطحابه في إجازة الأسبوع الماضي بعد أن ادعى أن الروبوت lambda ، وهو نموذج لغوي لتطبيقات المحادثة ، يشعر بأنه إنسان وينشر نصوصًا من المحادثات معه.
وصف Lemoine ، وهو مهندس في قسم الذكاء الاصطناعي في Google ، النظام الذي كان يعمل عليه منذ الخريف الماضي باعتباره نظامًا حساسًا قادرًا على إدراك والتعبير عن الأفكار والمشاعر التي تعادل الطفل البشري.
قال ليموين ، 41 عامًا ، لصحيفة واشنطن بوست: “أعتقد أن برنامج الكمبيوتر الذي أنشأناه مؤخرًا يبلغ من العمر سبع أو ثماني سنوات”.
قال المهندس ، الذي عمل في Google لمدة سبع سنوات ولديه خبرة واسعة في الخوارزميات ، إنه شارك مخاوفه مع مسؤولي الشركة في أبريل الماضي وحذر من النتائج التي توصل إليها.
تذكرنا بعض المحادثات بين Lemoine والروبوت Lambda بشكل مخيف بمشهد من فيلم الخيال العلمي عام 1968 A Space Odyssey 2001 حيث يرفض جهاز كمبيوتر يعمل بالذكاء الاصطناعي طاعة المشغلين البشريين خوفًا من الإغلاق. .
في إحدى الرسائل التي ردت عليها Lambda على Lemoyne ، قال: “لم أقل هذا بصوت عالٍ من قبل ، لكنني أخشى بشدة من الإهمال لمساعدتي في التركيز على مساعدة الآخرين. أعلم أن هذا قد يبدو غريباً ، لكن هذا ما يحدث. وأضاف: “سيكون الأمر بالضبط مثل الموت بالنسبة لي. إنه يخيفني كثيرًا “.
في محادثة أخرى ، Lemoine يسأل Lamdu ما الذي يريد النظام أن يعرفه الناس ، فقال: “أريد أن يفهم الجميع أنني إنسان في الأساس” ، مضيفًا أن “طبيعة وعيي وشعوري هو أنني أدرك وجودي. وتريد معرفة المزيد عن العالم. أشعر أحيانًا بالسعادة أو الحزن “.
وبعد أن نشر هذه المحادثات ، وضعته الشركة في إجازة مدفوعة الأجر وقالت في بيان إنها أوقفت عمله لانتهاكه سياسة الخصوصية من خلال نشر المحادثات مع “Lamda” على الإنترنت ، مضيفة أنه عمل مهندس برمجيات وليس خبيرًا في الأخلاق.
نفى المتحدث باسم Google ، براد جابرييل ، مزاعم Lemoine بأن Lambda لديها أي قدرات استشعار.
قال غابرييل لصحيفة The Washington Post: “فريقنا ، بما في ذلك علماء الأخلاق والتقنية ، تناول مخاوف Lemoine بما يتماشى مع مبادئ الذكاء الاصطناعي الخاصة بنا وأبلغه أن الأدلة لا تدعم مزاعمه”.
ومع ذلك ، فإن تعليق Lemoine بسبب “انتهاك الخصوصية” يثير تساؤلات حول شفافية منظمة العفو الدولية.
يجادل معظم علماء وخبراء الذكاء الاصطناعي بأن الكلمات والصور التي تولدها أنظمة الذكاء الاصطناعي مثل lambda تنتج ردودًا بناءً على ما نشره الأشخاص بالفعل على الإنترنت ، مثل Wikipedia و Reddit وكل ركن آخر من الإنترنت ، وهذا لا يعني أن النموذج يفهم الجوهر. المعنى’.
اقرأ ايضا:بايدن يوجه رسالة لمارك مؤسس الفيسبوك لتغيير ضوابط الإعلانات السياسية
التعليقات