„Екс“ разследва расистки публикации, генерирани от чатбота „Грок“
Платформата „Екс“ провежда спешна проверка за омразно съдържание, докато „ЕксЕйАй“ ограничава функциите на чатбота
Социалната платформа „Екс“ провежда разследване на „расистки и обидни“ публикации, създадени от чатбота „Грок“ на технологичната компания „ЕксЕйАй“. Информацията бе съобщена от „Ройтерс“, позовавайки се на източници от „Скай нюз“. Засега от „Екс“ и „ЕксЕйАй“ не са предоставили официален коментар по темата.
Спешна проверка за съдържание с омраза
Екипите за безопасност на „Екс“ реагираха незабавно след установяването на публикации, в които чатботът „Грок“ генерира съдържание, изпълнено с омраза и расистки изрази, в отговор на запитвания от потребителите. Това бе оповестено от репортера на „Скай нюз“ Роб Харис чрез видео, публикувано в официалния акаунт на медията в социалната мрежа.
Производителите на „Грок“ и администраторите на платформата засилват усилията си за контрол и превенция на нежеланото съдържание, като в същото време сериозно се увеличава и регулаторният натиск. Правителства и контролни органи по света предприемат мерки, насочени към ограничаване на сексуално експлицитно съдържание, генерирано от чатбота, включително чрез разследвания, забрани и налагане на предпазни механизми.
Регулации и ограничения върху функциите на „Грок“
Още през януари „ЕксЕйАй“ обявиха, че ограничават възможностите за редактиране на изображения в чатбота „Грок“. Компанията блокира опцията за генериране на изображения на хора в разголено облекло в държави, където подобно съдържание е незаконно, като се основава на местоположението на потребителите. В обявлението не бяха посочени конкретни държави, в които важат тези ограничения.
Тези стъпки се приемат като част от усилията за повишаване на отговорността при използването на изкуствен интелект и превенция на разпространението на нежелано и незаконно съдържание в дигиталната среда.
