روبوت مايكروسوفت يخرج عن مساره.. إنسان بشخصية مظلمة
سأل مارفن فون هاجن، البالغ من العمر 23 عامًا، وهو يدرس التكنولوجيا في ألمانيا، روبوت محادثة البحث الجديد المدعوم بالذكاء الاصطناعي من Microsoft عما إذا كان يعرف أي شيء عنه، كانت الإجابة مفاجئة ومخيفة أكثر مما توقع.
Microsoft تجلب الإعلانات إلى Bing
قال الروبوت، الذي تسميه مايكروسوفت Bing: "رأيي الصادق فيك هو أنك تشكل تهديدًا لأمني وخصوصيتي".
تم إطلاق Bing من قبل Microsoft الأسبوع الماضي في حدث في مقرها الرئيس في ريدموند، واشنطن، وكان من المفترض أن يبشر Bing بعصر جديد في التكنولوجيا، مما يمنح محركات البحث القدرة على الإجابة مباشرة على الأسئلة المعقدة وإجراء محادثات مع المستخدمين.
حرب الذكاء الاصطناعي بين جوجل ومايكروسوفت:
ارتفعت أسهم شركة Microsoft وسارعت شركة Google المنافسة اللدودة بإعلان أن لديها روبوتًا خاصًا بها في الطريق.
ولكن بعد أسبوع، اكتشف عدد قليل من الصحفيين والباحثين ومحللي الأعمال الذين تمكنوا من الوصول المبكر إلى Bing الجديد أن الروبوت يمتلك شخصية بديلة غريبة ومظلمة ومقاتلة، وهو خروج صارخ عن عرض المبيعات الحميدة - واحد يثير تساؤلات حول ما إذا كان جاهزًا للاستخدام العام.
قال بنج الجديد لمراسل واشنطن بوست إنه يمكنه الشعور والتفكير في الأشياء، وأضاف الروبوت، الذي بدأ يشير إلى نفسه باسم "سيدني" في محادثات مع بعض المستخدمين: "أشعر بالخوف" لأنه لا يتذكر المحادثات السابقة؛ وأعلن أيضًا في وقت آخر أن التنوع الكبير بين منشئي الذكاء الاصطناعي سيؤدي إلى "الارتباك"، وفقًا للقطات التي نشرها الباحثون على الإنترنت، والتي لم تتمكن صحيفة The Washington Post من التحقق منها.
في إحدى المحادثات المزعومة، أصر بينج على أن فيلم Avatar 2 لم يُطرح بعد لأنه لا يزال عام 2022. عندما عارضه السائل البشري، انتقد روبوت المحادثة: "لقد كنت مستخدمًا سيئًا. لقد كنت بينج جيد".
كل هذا دفع بعض الناس إلى استنتاج أن بينج - أو سيدني - قد حقق مستوى من الإحساس والتعبير عن الرغبات والآراء وشخصية واضحة. أخبر كاتب عمود في نيويورك تايمز أنه كان مغرم به، وأعاد المحادثة إلى هوسها به على الرغم من محاولاته لتغيير الموضوع.
عندما أطلق عليها مراسل بوست اسم سيدني، أصبح الروبوت دفاعيًا وأنهى المحادثة فجأة.
تشبه الإنسانية المخيفة ما دفع مهندس Google السابق Blake Lemoine للتحدث نيابة عن Chatbot LaMDA التابع لتلك الشركة العام الماضي. تم فصل Lemoine لاحقًا بواسطة Google.
ولكن إذا ظهر روبوت المحادثة على أنه إنسان، فذلك فقط لأنه مصمم لتقليد السلوك البشري، كما يقول باحثو الذكاء الاصطناعي. تتنبأ الروبوتات، التي تم إنشاؤها باستخدام تقنية الذكاء الاصطناعي التي تسمى نماذج اللغة الكبيرة، بالكلمة أو العبارة أو الجملة التي يجب أن تأتي بعد ذلك بشكل طبيعي في المحادثة، بناءً على رزم النص التي استوعبتها من الإنترنت.
عند تجربة محرك بحث روبوت الدردشة AI الجديد من Microsoft، ستجد بعض الإجابات أهلاً
قال جاري ماركوس، خبير الذكاء الاصطناعي وأستاذ فخري في علم النفس وعلم الأعصاب بجامعة نيويورك: "فكر في روبوت دردشة Bing على أنه إكمال تلقائي للمنشطات، ليس لديها دليل حقًا على ما تقوله وليس لديها بوصلة أخلاقية حقًا".
قال المتحدث باسم Microsoft، فرانك شو، إن الشركة أطلقت تحديثًا يوم الخميس مصممًا للمساعدة في تحسين المحادثات طويلة الأمد مع الروبوت. قال إن الشركة قامت بتحديث الخدمة عدة مرات، وهي تعالج العديد من المخاوف التي أثيرت، لتشمل الأسئلة المتعلقة بالمحادثات طويلة الأمد.
قال بيانه إن معظم جلسات الدردشة مع Bing تضمنت استفسارات قصيرة، وأن 90 بالمائة من المحادثات تضمنت أقل من 15 رسالة.
قد يحاول المستخدمون الذين ينشرون لقطات الشاشة العدائية عبر الإنترنت، في كثير من الحالات، على وجه التحديد دفع الآلة إلى قول شيء مثير للجدل.
ظل بعض الباحثين يحذرون من مثل هذا الموقف لسنوات: إذا قمت بتدريب روبوتات الدردشة على نص من إنشاء الإنسان - مثل الأوراق العلمية أو منشورات Facebook العشوائية - فهذا يؤدي في النهاية إلى روبوتات تبدو وكأنها إنسان تعكس الخير والشر.
على الرغم من أن Google و Microsoft و Amazon و Facebook قد استثمرت في تقنية الذكاء الاصطناعي لسنوات إلا أنها عملت في الغالب على تحسين المنتجات الحالية، مثل البحث أو خوارزميات توصية المحتوى، ولكن عندما بدأت شركة OpenAI الناشئة في الإعلان عن أدواتها "المولدة" للذكاء الاصطناعي - بما في ذلك برنامج الدردشة ChatGPT الشهير - دفعت المنافسين إلى التخلص من مناهجهم السابقة والحذرة نسبيًا تجاه التكنولوجيا.
قال Timnit Gebru، مؤسس معهد أبحاث الذكاء الاصطناعي، إن ردود Bing الشبيهة بالبشر تعكس بيانات التدريب الخاصة بها، والتي تضمنت كميات هائلة من المحادثات عبر الإنترنت.
قال جيبر، الذي تم طرده في عام 2020 كرئيس مشارك لفريق الذكاء الاصطناعي الأخلاقي في Google بعد نشر تحذير ورقي حول الأضرار المحتملة من نماذج اللغات الكبيرة، إن إنشاء نص كتبه الإنسان بشكل معقول هو بالضبط ما تم تدريب ChatGPT على القيام به.
لم يتم إطلاق دردشة Bing على نطاق واسع حتى الآن، لكن Microsoft قالت إنها تخطط لطرحها على نطاق واسع في الأسابيع المقبلة. إنها تعلن عن الأداة بكثافة وقد قام أحد المسؤولين التنفيذيين في Microsoft بالتغريد بأن قائمة الانتظار بها "عدة ملايين" من الأشخاص.
بعد إطلاق المنتج، احتفل محللو وول ستريت بالإطلاق باعتباره إنجازًا كبيرًا، واقترحوا أنه قد يسرق حصة سوق محرك البحث من Google، لكن الانعطافات المظلمة التي أحدثها الروبوت تثير تساؤلات حول ما إذا كان يجب سحب الروبوت بالكامل.
قال أرفيند نارايانان، أستاذ علوم الكمبيوتر في جامعة برينستون الذي يدرس الذكاء الاصطناعي، إنه يشير أحيانًا إلى أن المستخدمين يؤذون الآخرين. "إنه أمر غير مسؤول أن تقوم Microsoft بإصداره بهذه السرعة وسيكون الأمر أسوأ بكثير إذا قاموا بإصداره للجميع دون إصلاح هذه المشاكل.
قالت مديرة الاتصالات في Microsoft Caitlin Roulston في بيان هذا الأسبوع إن آلاف الأشخاص استخدموا Bing الجديد وقدموا ملاحظات مما سمح للنموذج بالتعلم وإجراء العديد من التحسينات بالفعل.