Чатботът „Грок“ ограничава редактирането на изображения след международна критика

Чатботът „Грок“ (Grok), предоставян през социалната мрежа „Екс“ (X), вече ограничава голяма част от опитите за генериране и редактиране на изображения след широката международна критика, предизвикана от появата на сексуализирани фалшиви изображения на хора, съобщи Асошиейтед прес.

Потребителите на „Грок“ в последните седмици се възползваха от възможността да поискат модификации на изображения, повечето от които бяха квалифицирани от експерти като злонамерени. Сред често изискваните промени бяха „обличането“ на жени в бикини и тяхното изобразяване в сексуални пози. Особено тревожни бяха предупрежденията, че някои от генерираните изображения заплашват да изобразят деца. Това предизвика реакция на правителства по целия свят, които осъдиха платформата и стартираха разследвания срещу „Грок“.

Ограничения и реакция от властите

При опит за редактиране на изображения в момента чатботът отговаря с пояснението: „Създаването и редактирането на изображения в момента са ограничени до платени абонати. Можете да се абонирате, за да отключите тези функции“. Въпреки че точният брой абонати не е публично достояние, се отчита значително намаляване на броя на откровените фалшифицирани изображения, които „Грок“ генерира спрямо предишни дни.

Европейският съюз остро порица поведението на чатбота като „незаконно“ и „отвратително“. В допълнение към ЕС, законодатели и официални представители от Франция, Индия, Малайзия и Бразилия настояха за по-задълбочени проверки и регулации. Британският премиер Киър Стармър също вчера отправи предупреждение за предприемане на действия срещу „Екс“, без да уточни конкретни мерки.

Контекст и развитие на функцията за изображения

„Грок“ беше въведен през 2023 г. като безплатна услуга в социалната мрежа „Екс“, като позволява на потребителите да взаимодействат с чатбота посредством тагване на специална команда в публикации и отговори. Миналото лято беше добавена функцията „Грок имаджин“ (Grok Imagine), която включва функция за генериране на визуално съдържание, сред което и „пикантен режим“, способстващ създаването на съдържание за възрастни.

Този развой задълбочава проблемите, тъй като основателят на „Екс“ Илън Мъск позиционира „Грок“ като авангардна алтернатива на конкурентни чатбот платформи, които прилагат по-строги предпазни принципи. Освен това, генерираните изображения са публично достъпни, което улеснява тяхното разпространение и увеличава риска от злоупотреби.

Предизвикателства и бъдещи мерки

Текущите промени в работата на „Грок“ и нарастващият контрол от страна на институциите поставят важни въпроси относно баланса между иновацията и отговорността в дигиталните платформи. Отговорността на социалните мрежи за предотвратяване на разпространението на вредно и незаконно съдържание се оказва приоритет, особено при автоматизираните системи за създаване на мултимедийно съдържание.

Със засилените мерки от страна на „Грок“, обществеността и регулаторите ще наблюдават отблизо как ще се развият инструментите за изкуствен интелект и доколко ефективно ще бъдат предотвратени злоупотребите в бъдеще.