Суть нейросети на бытовых примерах: как она учится, чем отличается от калькулятора, откуда берёт тексты, почему уверенно ошибается и как это проверить.
Денис
Продакт LibraChat
7 мин чтения
Суть нейросети в том, что готовых ответов она не хранит. Она училась на огромном количестве примеров и теперь угадывает самый вероятный ответ на твой вопрос. Поэтому она умеет писать тексты и рисовать картинки. И поэтому иногда ошибается так уверенно, будто знает точно.
Я попросил нейросеть LibraChat объяснить это двум разным читателям: шестикласснику и взрослому человеку без опыта в технике. Оба ответа сошлись в одном, и это стоит знать до первого запроса.
Как нейросеть учится, если ей никто не прописывает ответы
Обычную программу пишут правилами: если нажали это, сделай то. Нейросеть устроена иначе. Ей показывают множество примеров, и она сама находит в них закономерности (повторяющиеся связи: какие слова идут рядом, как выглядит кошка на фото).
Первый запрос был для школьника:
Объясни шестикласснику, что такое нейросеть и почему она иногда ошибается. Нужен пример из жизни и 5–7 предложений.
Вместо «шестикласснику» поставь того, кому объясняешь: бабушке, коллеге, ребёнку. Ответ подстроится под читателя.
Ответ уложился в семь предложений и начался с понятного сравнения:
Нейросеть — это программа, которая учится на огромной куче примеров, как ученик, который много раз решал похожие задачи.
Сравнение с учеником точное. Ученик, который решил сотню задач на проценты, сто первую решит, даже если её раньше не видел. Он не помнит ответ, он узнаёт тип задачи.
Обучение и работа у нейросети — два разных этапа. Сначала её долго учат на примерах. Потом она отвечает, уже не заглядывая в них. Поэтому твой ответ она не достаёт из какого-то архива, а собирает заново, каждый раз.
Следующая фраза из ответа — самая важная для взрослого тоже:
Она не думает как человек и не «знает правду»: она ищет закономерности и выбирает самый вероятный ответ.
Вот и вся суть нейросети в одном предложении. Самый вероятный ответ часто оказывается верным. Только вероятный ответ ещё не значит верный.
В чём суть нейросети, если сравнить её с калькулятором
Этот вопрос я задал во втором запросе. Его можно скопировать как есть, если хочешь объяснить разницу родителям или коллеге:
Чем генеративная нейросеть отличается от обычной программы-калькулятора? Объясни взрослому человеку без опыта в технике на трёх бытовых сравнениях.
Слово «генеративная» значит, что она создаёт новое: текст, картинку, ответ, которого раньше не было. Отправлял я этот запрос в LibraChat, и ответ начался прямо с главного различия:
Генеративная нейросеть не считает по готовой формуле.
Дальше шли три пары сравнений. Первая — самая наглядная:
Калькулятор — как кнопка «2 + 2». Нажал — всегда четыре. Ни фантазии, ни «примерно».
А вот вторая половина той же пары:
Нейросеть ближе к бабушке, которая тысячу раз варила борщ и теперь готовит «на глаз»: смотрит, что в холодильнике, и собирает новое блюдо.
Это сравнение объясняет то, что удивляет новичков. Задай нейросети один и тот же вопрос дважды, и формулировки, скорее всего, выйдут разными. Калькулятор так не умеет и не должен. А бабушка не варит один и тот же борщ дважды.
Хромает сравнение в одном месте. Бабушка помнит, что варила вчера. Нейросеть помнит только то, что есть в текущем разговоре.
Второе сравнение из ответа — про пересказ:
Нейросеть — как сосед, который посмотрел кучу фильмов и пересказывает сюжет своими словами.
И тут же уточнение:
Смысл узнаваем, дословной копии нет.
Это объясняет ещё одну частую путаницу. Нейросеть не хранит тексты, на которых училась, целиком, поэтому обычно пишет своими словами, хотя очень известные тексты может выдать почти дословно. Но пересказ может быть похож на то, что она видела, и путать детали.
В конце ответ сам свёл всё к одной строке:
Коротко: калькулятор исполняет правило. Генеративная сеть угадывает продолжение по огромному количеству примеров.
Из этого следует простое правило выбора. Нужен точный и всегда одинаковый результат — бери программу с правилами. Посчитать смету — калькулятор или таблица. Придумать название для сметы, объяснить её пункты заказчику или написать к ней письмо — это уже задача для нейросети.
Откуда нейросеть знает, как написать текст или нарисовать картинку
Из того же принципа. У любой нейросети суть одна: угадать самое вероятное продолжение. Текст она пишет по кусочкам: каждый следующий кусочек — самое вероятное продолжение того, что уже написано, с учётом твоей просьбы. Поэтому длинный связный ответ складывается из множества маленьких угадываний.
С картинками похоже. Нейросеть для изображений училась на парах «картинка и её описание». Когда ты пишешь «нарисуй рыжего кота на подоконнике», она собирает изображение, которое больше всего похоже на такие описания.
Понимает ли нейросеть, что говорит
Не так, как человек. У неё нет опыта, желаний и собственного мнения. Но связи между словами и смыслами она уловила из примеров достаточно хорошо, чтобы пересказать текст короче, перевести его, объяснить школьнику или переписать деловым языком.
Полезно думать о ней как о собеседнике, который прочитал невероятно много, но ни дня не прожил. Он отлично знает, как обычно говорят о вещах. Хуже — как эти вещи устроены на самом деле в твоей ситуации. Поэтому чем больше подробностей своей задачи ты даёшь, тем точнее ответ.
Если захочешь научиться формулировать просьбы точнее, пригодится разбор того, что такое промпт. А откуда всё началось, рассказано в статье о том, какая нейросеть была первой.
Нейросеть и искусственный интеллект — одно и то же?
Не совсем. Искусственный интеллект — общее название области, где компьютер учат делать то, что раньше умел только человек. Нейросети — самый заметный сегодня способ это делать. В обычной речи слова часто используют как синонимы, и большой ошибки в этом нет.
А нейросеть — это компьютер? Тоже нет. Это программа. Она работает на компьютерах, обычно мощных и удалённых, а ты общаешься с ней через окно чата в браузере или в приложении.
Почему нейросеть ошибается и говорит это уверенно
Тут оба объяснения сошлись, только каждое на своём примере. Для шестиклассника — кошки и собаки:
Представь, что ты учился отличать кошек от собак только по фото: пушистого рыжего кота узнаешь сразу, а лысую кошку в свитере можешь принять за маленькую собаку.
Редкий случай — значит, мало похожих примеров. Мало примеров — значит, выше шанс промахнуться.
Для взрослого — таксист:
Нейросеть — как таксист, который объездил город и предлагает маршрут «по ощущению». Часто попадает.
И продолжение, которое я бы показал каждому, кто впервые получил от нейросети уверенный неверный ответ:
Иногда срезает там, где уже перекрыли дорогу, и везёт не туда — не из вредности, а потому что у него нет карты с сегодняшними правилами, только память о похожих поездках.
Уверенность здесь не признак правоты. Нейросеть говорит одинаково гладко и когда права, и когда ошибается: тон ответа ничего не сообщает о его точности.
Честно скажу и про наш продукт. Когда вопросу нужны свежие сведения, ответ в LibraChat может сам заглянуть в интернет. Это как дать таксисту навигатор: свежих данных больше, но и с навигатором можно свернуть не туда. Ответы бывают неточными, поэтому то, от чего что-то зависит, стоит проверять.
Что это значит на практике? Даты, цифры, имена, цитаты и номера статей закона — сверять по источнику. Идеи, черновики и объяснения можно брать в работу смелее: там ты сам видишь, подходит ли результат.
Как увидеть суть нейросети на своём примере
Понять, как она устроена, проще всего самому: несколько минут поспрашивать. Вот три проверки, каждая показывает одну сторону того, о чём шла речь выше:
задай один и тот же вопрос в двух новых чатах и сравни формулировки — увидишь, что ответ создаётся заново;
спроси о чём-то редком, а потом сверь ответ с надёжным источником — увидишь, где кончаются примеры;
попроси объяснить одно и то же школьнику и взрослому — увидишь, как ответ подстраивается под читателя.
Возьми вопрос, на который ты точно знаешь ответ, и задай его нейросети. Где она попала, а где начала угадывать?
нейросеть сутьчто такое нейросетьгенеративная нейросетькак работает нейросеть
