ChatGPT – це нісенітниця

На сайті наукового видавництва Спрінгер з’явилася стаття “ChatGPT – це нісенітниця” (ChatGPT is bullshit). Її ідея полягає в тому, що називати помилки Великих Мовних Моделей (ВММ) «галюцинаціями» є шкідливою практикою. Громадськість приймає рішення про те, як поводитися з подібним Штучний Інтелектом, ґрунтуючись не на глибокому технічному розумінні, а на часто метафоричних порівняннях.

Тобто, якщо ми називаємо помилки ChatGPT, в яких він вигадує неіснуючі факти, галюцинаціями, то припускаємо, що це є відхиленням від правди. Що достатньо “підкрутити” модель і вона перестане брехати. Насправді ж ВММ в принципі не має такого поняття як “правда”. Подібні моделі на підставі статистичної ймовірності шукає найкраще продовження до введеного користувачем тексту. Буде цей текст правдивим чи ні модель не обходить – головне, щоб користувач був задоволений результатом.

Тому автори статті пропонують назвати помилки ВММ «нісенітницями» (bullshit) відповідно до книги Гаррі Г. Франкфурта «Про нісенітницю» (On Bullshit, 1986):

«Франкфурт розуміє, що нісенітниця характеризується не наміром ввести в оману, а натомість безрозсудним нехтуванням правдою. Студент намагається здатися обізнаним, не прочитавши заданий текст, політичний кандидат говорить речі, тому що вони звучать добре для потенційних виборців, і дилетант, який намагається розповісти цікаву історію: ніхто з цих людей не намагається обдурити, але вони також не намагаються донести факти. За визначенням Франкфурта вони є нісенітницями».

Хоча це більш точний опис того, чим займаються ВММ, але подібні популярні системи не були створені в академічному середовищі. Їх створив і використовує бізнес, який ніколи не ставив правду вище прибутку. І те саме стосується широкої публіки – якщо технологія полегшує її життя тут і зараз, яка різниця, як вона працює і як її називають?

Так, звісно, не повинно бути. Це безглуздо і може призвести до драматичних наслідків. Тож, можливо, називати результат діяльності ChatGPT, Microsoft Copilot і решти подібних ВММ “нісенітницям” насправді буде корисно.