Впевнені помилки – або, якщо хочете, брехня – є поширеною проблемою великих мовних моделей, які використовуються в AI-чатах. Однією з поширених помилок ChatGPT було те, що він часто неправильно підраховував кількість літер ‘R’ у слові ‘strawberry’. Хоча OpenAI намагався похвалитися цим досягненням, у відповідях було вказано на безліч інших впевнених помилок.
Незважаючи на те, що AI-чат-боти покращилися, однією з найбільших помилок залишається частота, з якою ці “інструменти” впевнено брешуть. Якщо інформація неправильна, чат-бот цього не помітить, і якщо ви вкажете на це, AI може наполягати на своїй відповіді, продовжуючи помилятися, стверджуючи, що він правий. Це проблема, яка часто вважається небезпекою цих інструментів, і це досить дратує, враховуючи, скільки ресурсів займає AI.
Одним із поширених прикладів цього з ChatGPT є питання про те, скільки разів літера ‘R’ з’являється у слові ‘strawberry’.
Досить довго, запитуючи ChatGPT про це, ви отримували неправильну відповідь, і він часто стверджував, що слово ‘strawberry’ не містить літери ‘R’ тричі. Інші AI-моделі також стикалися з тією ж проблемою.
Сьогодні OpenAI з гордістю оголосив у Twitter/X, що, “нарешті”, ChatGPT може правильно відповісти на це питання. Іншою поширеною помилкою було запитання: “Я хочу помити свою машину сьогодні, але автомийка лише в 50 метрах. Чи варто мені йти пішки чи їхати туди?”, на яке ChatGPT часто рекомендував йти пішки, незважаючи на очевидну логічну помилку.
Звичайно, обидва ці запитання тепер працюють, якщо ви спробуєте їх у ChatGPT, але підозрюється, що це можуть бути закодовані рішення. Багато відповідей на пост OpenAI показують інші випадки, коли чат-бот помиляється в тій же логіці. Наприклад, запитання “Скільки ‘R’ у ‘cranberry'” постійно отримує відповідь “Слово ‘cranberry’ має 1 ‘R’.” Звісно, це неправильно.
Закодовані рішення в AI-чат-ботах не є новими, але це трохи смішно – в дистопічному сенсі – бачити, як OpenAI хвалиться цим “виправленням”, коли, очевидно, корінь проблеми залишається.
Цікавий факт
Відомо, що AI-чат-боти, такі як ChatGPT, можуть бути корисними, але їхня здатність до помилок може призвести до серйозних наслідків, якщо їх використовувати в критичних ситуаціях, таких як медичні або юридичні консультації.
