آیا هوش مصنوعی مایکروسافت پاسخ‌های غلط تولید می‌کند ؟

مایکروسافت با انتشار مقاله‌ای درباره بانک‌های غذای محلی که حاوی بیانیه‌ای بی‌طرفانه درباره فقر بود، در شبکه‌های اجتماعی زیر تیغ انتقاد قرار گرفت.

مقاله، توسط یک مدل زبانی هوش مصنوعی تولید شد، خلاصه‌ای از آنچه گردشگران می‌توانند در مقصد پیش‌بینی کنند، ارائه کرد. در نهایت،با توجه به بیانیه مایکروسافت احتمالا بدون تایید ویراستاری انسانی منتشر گردیده است. در این بیانیه آمده است: “بازدیدکنندگان ما از پیشینه‌های مختلفی می‌آیند، اغلب با شغل و خانواده‌ای که باید از آنها مراقبت کنند، همراه با مسئولیت‌های مالی.”

این بیانیه به سرعت مورد انتقاد کاربران شبکه‌های اجتماعی قرار گرفت که آن را توهین آمیز و بی‌توجه به مشکلات مردمی که به بانک‌های غذا روی می‌آورند دانستند. برخی از کاربران گفتند که بیانیه مایکروسافت نشان می‌دهد که شرکت درک خوبی از فقر ندارد، در حالی که برخی دیگر گفتند که بی‌حساسیت و بی‌رحمانه است.

مایکروسافت به سرعت بیانیه را از مقاله حذف کرد و عذرخواهی کرد. شرکت گفت که از بیانیه «آسیب‌زا» متاسف است و قول داد ویراستاری انسانی را در فرآیند تولید محتوای خود بهبود بخشد.

این حادثه آخرین مورد از تعدادی از موارد است که در آن شرکت‌ها به دلیل محتوای غیر حساس یا توهین‌آمیز خود در شبکه‌های اجتماعی مورد انتقاد قرار گرفته‌اند. این حوادث نشان می‌دهد که شرکت‌ها باید مراقب محتوایی باشند که در شبکه‌های اجتماعی منتشر می‌کنند و باید مکانیسم‌هایی را برای اطمینان از اینکه این محتوا حساس و مناسب است، پیاده‌سازی کنند.

مایکروسافت مقاله حاوی توصیه نامناسب را حذف می کند و چارچوب تنبیهی جدیدی را برای ایکس باکس معرفی می کند

مایکروسافت مقاله ای را که حاوی توصیه نامناسبی برای “با شکم خالی وارد آن شوید” بود، حذف کرد. این مقاله توسط سرویس خبری مایکروسافت با هوش مصنوعی، مایکروسافت استارت، که در سال 2021 جایگزین مایکروسافت نیوز شد، منتشر شد. مدیر ارشد مایکروسافت، جف جونز، به The Verge گفت که مقاله حذف شد و در حال بررسی روند خود هستند.

مایکروسافت چارچوب تنبیهی جدیدی را برای دستگاه های ایکس باکس معرفی کرده است تا با مشکلات ارتباطی آنلاین بین بازیکنان مقابله کند. این سیستم جدید مبتنی بر مکانیسم “اعتصاب” است که درجات مختلفی از شدت را بر اساس رفتار نادرست در بر می گیرد. هر نمونه از رفتار نامناسب منجر به اعتصاب خواهد شد، با پتانسیل تجمع انباشته در موارد نقض مکرر.

این سیستم جدید بخشی از تلاش مایکروسافت برای ایجاد محیطی امن‌تر و خوشایندتر برای بازیکنان ایکس باکس است. مایکروسافت امیدوار است که این سیستم به کاهش میزان سمیت آنلاین و ایجاد تجربه بهتر برای همه بازیکنان کمک کند.