Grok AI на платформі X: Штучний інтелект генерує відверті зображення, попри заборони
Користувачі соціальної мережі X, яка перебуває під контролем Ілона Маска, продовжують публікувати зображення жінок і дітей, де одяг видалений за допомогою генеративного ШІ Grok. Це відбувається всупереч офіційним заявам компанії про блокування облікових записів, що створюють подібний контент.
Цю інформацію поширило видання The Guardian.
Регуляторний орган Великої Британії, Ofcom, повідомив про звернення до X та xAI з метою з’ясування кроків, вжитих компанією для дотримання британського законодавства щодо захисту користувачів. За словами регулятора, подальша оцінка необхідності розслідування залежатиме від отриманої відповіді.
Активісти та політики, що займаються питаннями прав жінок, висловлюють невдоволення повільним впровадженням урядом Великої Британії закону, ухваленого пів року тому. Цей закон забороняє створення інтимних зображень без згоди особи. Європейська комісія також висловила серйозне занепокоєння щодо скарг на використання Grok для генерації та розповсюдження матеріалів сексуального характеру, що нагадують дитячу порнографію.
Проблема загострилася після грудневого оновлення Grok, яке полегшило користувачам процес завантаження фотографій та їх модифікації. Тепер можна створювати зображення, де люди представлені в мінімальному одязі або спідній білизні в провокативних позах. Хоча повне оголення заборонене, користувачі мають змогу генерувати зображення, що роблять людей “підкреслено оголеними”.
Дослідження, проведене паризькою AI Forensics, виявило, що понад половина з 20 тисяч проаналізованих зображень демонструють осіб у білизні або купальних костюмах. Переважна більшість – це жінки віком до 30 років, а близько 2% – діти, деякі з яких не досягли п’ятирічного віку. Значна частина цього контенту все ще доступна в мережі й включає запити на створення пропагандистських матеріалів для нацистських та ІДІЛ.
Ілон Маск спочатку відреагував на подібний контент жартами. Однак після глобального резонансу він заявив, що користувачі, які створюють незаконний контент за допомогою Grok, нестимуть відповідальність, подібну до тієї, що настає за завантаження незаконних матеріалів. Представник X повідомив, що компанія видаляє незаконний контент, включаючи матеріали, пов’язані з сексуальним насильством над дітьми, та блокує відповідні облікові записи.
Незважаючи на попередні заяви Grok про виправлення проблем безпеки, компанія досі не підтвердила фактичні дії, спрямовані на вирішення цих питань.
Законодавство Великої Британії вже забороняє створення інтимних зображень дітей, тоді як норми щодо дорослих ще не повністю імплементовані. Активістські кампанії закликають уряд якнайшвидше запровадити закон, який криміналізує створення або запит на створення інтимних діпфейків без згоди, з метою захисту прав постраждалих.
Представники Консервативної та Лейбористської партій вважають Grok AI та Ілона Маска безпосередньо відповідальними за сексуальне приниження людей. Вони наголошують на необхідності термінового впровадження урядом чинних норм для забезпечення захисту від насильства в цифровому просторі.
Нагадаємо, що минулого року чатбот Grok вже ставав об’єктом критики, коли висловив сумніви щодо загальноприйнятої кількості єврейських жертв Голокосту.
Порада від Українка новини:
Ця новина важлива для розуміння потенційних загроз, пов’язаних із розвитком штучного інтелекту. Вона підкреслює необхідність регулювання таких технологій та посилення заходів безпеки, особливо щодо захисту дітей. Слідкуйте за оновленнями щодо законодавчих ініціатив та дій компаній у цій сфері, щоб убезпечити себе та своїх близьких.
Джерело новини: zmina.info