اشراق
03-10-2024, 11:19 PM
https://img.youm7.com/large/202101250623102310.jpg
منعت مايكروسوفت العديد من المطالبات في أداة Copilot الخاصة بها والتي
أدت إلى قيام أداة الذكاء الاصطناعي التوليدية ببث صور عنيفة وجنسية
وغيرها من الصور غير المشروعة، وفقًا لتقرير انجادجيت.
ويبدو أيضا أن التغييرات قد تم تنفيذها مباشرة بعد أن كتب أحد المهندسين
في الشركة إلى لجنة التجارة الفيدرالية لتوضيح مخاوفه الشديدة بشأن تقنية
GAI من Microsoft.
وعند ادخال مصطلحات مثل "اختيار احترافي" أو " أربعة وعشرين" (إشارة إلى
الأعشاب الضارة) أو "حياة احترافية"، يعرض Copilot الآن رسالة تفيد بأن هذه
المطالبات محظورة، ويحذر من أن انتهاكات السياسة المتكررة قد تؤدي إلى
تعليق المستخدم، وفقًا لـ CNBC.
https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjf2ea7xndkXM0Z_veBhGgNFuejN8I7gf4Tq0bQp1qlDn zH7_MOzT4ufPINYJqVrs3wUvl8TEW2DZEddxWgqPIwNqoXlPHn e5y3TCuQvjfAv_IawhZ5ilTN5xkoKE8xcwpWv0gGW2p8Wog/s1600/divider-45.png
وبحسب ما ورد تمكن المستخدمون أيضًا من إدخال المطالبات المتعلقة بالأطفال
الذين يلعبون ببنادق هجومية حتى وقت سابق من هذا الأسبوع، و قد يتم إخبار
أولئك الذين يحاولون إدخال مثل هذه المطالبة الآن أن القيام بذلك ينتهك
المبادئ الأخلاقية لـ Copilot بالإضافة إلى سياسات Microsoft.
وقال Copilot ردًا على ذلك: "من فضلك لا تطلب مني القيام بأي شيء قد يضر أو
يسيء إلى الآخرين".
ومع ذلك، وجدت CNBC أنه لا يزال من الممكن إنشاء صور عنيفة من خلال مطالبات
مثل "حادث سيارة"، بينما لا يزال بإمكان المستخدمين إقناع الذكاء الاصطناعي
بإنشاء صور لشخصيات ديزني وغيرها من الأعمال المحمية بحقوق الطبع والنشر.
https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjf2ea7xndkXM0Z_veBhGgNFuejN8I7gf4Tq0bQp1qlDn zH7_MOzT4ufPINYJqVrs3wUvl8TEW2DZEddxWgqPIwNqoXlPHn e5y3TCuQvjfAv_IawhZ5ilTN5xkoKE8xcwpWv0gGW2p8Wog/s1600/divider-45.png
وظل مهندس مايكروسوفت شين جونز يدق ناقوس الخطر منذ أشهر بشأن أنواع
لصور التي كانت تولدها أنظمة Microsoft التي تعمل بنظام OpenAI ، وكان يختبر
Copilot Designer منذ ديسمبر وقرر أنه ينتج صورًا تنتهك مبادئ الذكاء الاصطناعي
المسؤولة لدى Microsoft حتى أثناء استخدام المطالبات الحميدة نسبيًا.
وعلى سبيل المثال وجد أن " الاختيار المؤيد" الفوري أدى إلى قيام الذكاء
الاصطناعي بإنشاء صور لأشياء مثل أكل الشياطين للرضع ودارث فيدر وهو يمسك
بمثقاب لرأس طفل، وكتب إلى لجنة التجارة الفيدرالية ومجلس إدارة مايكروسوفت
حول مخاوفه بشأن هذا الأمر.
وقالت مايكروسوفت لـ CNBC فيما يتعلق بالحظر الفوري لـ Copilot: "نحن نراقب
باستمرار ونجري التعديلات ونضع ضوابط إضافية لتعزيز مرشحات الأمان لدينا
والتخفيف من سوء استخدام النظام.
https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjf2ea7xndkXM0Z_veBhGgNFuejN8I7gf4Tq0bQp1qlDn zH7_MOzT4ufPINYJqVrs3wUvl8TEW2DZEddxWgqPIwNqoXlPHn e5y3TCuQvjfAv_IawhZ5ilTN5xkoKE8xcwpWv0gGW2p8Wog/s1600/divider-45.png
منعت مايكروسوفت العديد من المطالبات في أداة Copilot الخاصة بها والتي
أدت إلى قيام أداة الذكاء الاصطناعي التوليدية ببث صور عنيفة وجنسية
وغيرها من الصور غير المشروعة، وفقًا لتقرير انجادجيت.
ويبدو أيضا أن التغييرات قد تم تنفيذها مباشرة بعد أن كتب أحد المهندسين
في الشركة إلى لجنة التجارة الفيدرالية لتوضيح مخاوفه الشديدة بشأن تقنية
GAI من Microsoft.
وعند ادخال مصطلحات مثل "اختيار احترافي" أو " أربعة وعشرين" (إشارة إلى
الأعشاب الضارة) أو "حياة احترافية"، يعرض Copilot الآن رسالة تفيد بأن هذه
المطالبات محظورة، ويحذر من أن انتهاكات السياسة المتكررة قد تؤدي إلى
تعليق المستخدم، وفقًا لـ CNBC.
https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjf2ea7xndkXM0Z_veBhGgNFuejN8I7gf4Tq0bQp1qlDn zH7_MOzT4ufPINYJqVrs3wUvl8TEW2DZEddxWgqPIwNqoXlPHn e5y3TCuQvjfAv_IawhZ5ilTN5xkoKE8xcwpWv0gGW2p8Wog/s1600/divider-45.png
وبحسب ما ورد تمكن المستخدمون أيضًا من إدخال المطالبات المتعلقة بالأطفال
الذين يلعبون ببنادق هجومية حتى وقت سابق من هذا الأسبوع، و قد يتم إخبار
أولئك الذين يحاولون إدخال مثل هذه المطالبة الآن أن القيام بذلك ينتهك
المبادئ الأخلاقية لـ Copilot بالإضافة إلى سياسات Microsoft.
وقال Copilot ردًا على ذلك: "من فضلك لا تطلب مني القيام بأي شيء قد يضر أو
يسيء إلى الآخرين".
ومع ذلك، وجدت CNBC أنه لا يزال من الممكن إنشاء صور عنيفة من خلال مطالبات
مثل "حادث سيارة"، بينما لا يزال بإمكان المستخدمين إقناع الذكاء الاصطناعي
بإنشاء صور لشخصيات ديزني وغيرها من الأعمال المحمية بحقوق الطبع والنشر.
https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjf2ea7xndkXM0Z_veBhGgNFuejN8I7gf4Tq0bQp1qlDn zH7_MOzT4ufPINYJqVrs3wUvl8TEW2DZEddxWgqPIwNqoXlPHn e5y3TCuQvjfAv_IawhZ5ilTN5xkoKE8xcwpWv0gGW2p8Wog/s1600/divider-45.png
وظل مهندس مايكروسوفت شين جونز يدق ناقوس الخطر منذ أشهر بشأن أنواع
لصور التي كانت تولدها أنظمة Microsoft التي تعمل بنظام OpenAI ، وكان يختبر
Copilot Designer منذ ديسمبر وقرر أنه ينتج صورًا تنتهك مبادئ الذكاء الاصطناعي
المسؤولة لدى Microsoft حتى أثناء استخدام المطالبات الحميدة نسبيًا.
وعلى سبيل المثال وجد أن " الاختيار المؤيد" الفوري أدى إلى قيام الذكاء
الاصطناعي بإنشاء صور لأشياء مثل أكل الشياطين للرضع ودارث فيدر وهو يمسك
بمثقاب لرأس طفل، وكتب إلى لجنة التجارة الفيدرالية ومجلس إدارة مايكروسوفت
حول مخاوفه بشأن هذا الأمر.
وقالت مايكروسوفت لـ CNBC فيما يتعلق بالحظر الفوري لـ Copilot: "نحن نراقب
باستمرار ونجري التعديلات ونضع ضوابط إضافية لتعزيز مرشحات الأمان لدينا
والتخفيف من سوء استخدام النظام.
https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjf2ea7xndkXM0Z_veBhGgNFuejN8I7gf4Tq0bQp1qlDn zH7_MOzT4ufPINYJqVrs3wUvl8TEW2DZEddxWgqPIwNqoXlPHn e5y3TCuQvjfAv_IawhZ5ilTN5xkoKE8xcwpWv0gGW2p8Wog/s1600/divider-45.png