У листі, отриманому виключно NBC News, Apple повідомила сенаторам США, як вона працювала за лаштунками, щоб вирішити проблему з сексуалізованими дипфейками, створеними Grok на початку цього року. Ось деталі.
На початку року Apple піддалася інтенсивному тиску, щоб видалити додатки Grok і X з App Store після того, як користувачі виявили, що чат-бот охоче виконує запити на роздягання людей на фотографіях, зокрема жінок, включаючи неповнолітніх.
Apple залишалася в основному мовчазною під час суперечки, але NBC News повідомляє, що за лаштунками компанія “виявила, що X і Grok порушують її правила” і “приватно погрожувала видалити” Grok з App Store.
Згідно з повідомленням, Apple “зв’язалася з командами, що стоять за X і Grok, після того, як отримала скарги та побачила новини про скандал”, вимагаючи “від розробників додатків створити план для покращення модерації контенту”.
X, у свою чергу, надіслав оновлення додатку Grok на перевірку, але воно було відхилене, оскільки “зміни не були достатніми”. Компанія Ілона Маска потім подала переглянуті версії додатків X і Grok, з яких була прийнята лише одна.
З листа Apple, згідно з NBC News:
“Apple переглянула наступні подання, зроблені розробниками, і визначила, що X суттєво усунув свої порушення, але додаток Grok залишався в порушенні. Як результат, ми відхилили подання Grok і повідомили розробнику, що для усунення порушення потрібні додаткові зміни, або додаток може бути видалено з App Store. […] Після подальшого спілкування та змін з боку розробника Grok, ми визначили, що Grok суттєво покращився і тому схвалили його останнє подання.”
Хоча ці деталі до цього часу не були оприлюднені, вони допомагають пояснити серію заплутаних змін модерації, які xAI оголосила на піку негативної реакції, включаючи обмеження на те, хто міг використовувати інструменти зображень Grok, та обмеження на редагування фотографій реальних людей.
Однак у окремому звіті, опублікованому сьогодні, NBC News повідомляє, що Grok “продовжує генерувати сексуалізовані зображення людей без їхньої згоди”, зафіксувавши десятки таких випадків за останній місяць.
У звіті зазначається, що хоча обсяг зображень значно зменшився з січня, частина користувачів все ще може обійти обмеження, щоб зображати жінок “в більш відкритому одязі, наприклад, у рушниках, спортивних бюстгальтерах, облягаючих костюмах Людини-павука або в костюмах зайців”.
Щоб прочитати NBC News’ платний звіт про лист Apple до сенаторів США, перейдіть за цим посиланням. А для звіту про триваючі проблеми Grok з сексуалізованими дипфейками перейдіть за цим посиланням.
Цікавий факт
Глибоке навчання, яке використовується в таких додатках, як Grok, може мати як позитивні, так і негативні наслідки, залежно від того, як його застосовують.
