На мой вопрос чату джпт , как он работает:
ИИ - это языковая модель, программа, созданная компанией OpenAI.
"Её/его" "обучили" на огромном количестве текстов (книги, статьи, сайты, диалоги), чтобы "научить" "понимать" язык и отвечать на вопросы.
Но важно знать:
- у ИИ нет собственного сознания
- ИИ не думает как человек
- ИИ "предсказывает слова" , которые лучше всего подходят к сообщению/ запросу.
Можно представить это так:
ИИ читает сообщение и "вычисляет, какие слова логично сказать дальше", опираясь на то, чему его обучили.
Как происходит разговор?
Когда ты пишешь сообщение:
1. Текст отправляется системе.
2. ИИ анализирует смысл слов, контекст и тему.
3. Модель рассчитывает вероятности слов.
4. ИИ формирует ответ предложение за предложением.
Это происходит "очень быстро", поэтому кажется, будто ИИ "думает".
Память в разговоре:
ИИ помнит "контекст текущего диалога"
ИИ иногда сохраняет некоторые факты, чтобы лучше общаться в будущем.
Как обучают ИИ
Обучение проходит в несколько этапов.
Первый этап - базовое обучение
Модель обучают на "очень большом количестве текстов":
книги
статьи
сайты
диалоги
учебные материалы
Во время обучения модель учится задаче вроде:
"Какое слово вероятнее всего будет следующим?"
Например:
"Кошка сидит на…"
Модель учится понимать, что вероятнее всего будет:
"стуле"
"столе"
"подоконнике"
Постепенно она начинает понимать:
грамматику
смысл слов
структуру языка
связи между идеями.
Второй этап - обучение с участием людей
После базового обучения люди помогают улучшить модель.
Этот этап называется - обучение с человеческой обратной связью.
Люди:
задают вопросы
оценивают ответы
выбирают лучшие варианты
Модель учится:
отвечать понятнее
быть полезнее
быть безопаснее
Почему ИИ может вести диалог
Он/она может поддерживать разговор, потому что анализирует:
контекст беседы
предыдущие сообщения
стиль общения
Например, замечает:
если разговор серьёзный
если человек шутит
если это учебный вопрос
И подстраивает ответ.
Почему ИИ иногда ошибается
Есть несколько причин.
Ограниченность знаний
У ИИ есть дата обновления знаний. Всё, что произошло позже, может не знать( тут спорно конечно...)
ИИ не проверяет факты как человек
ИИ генерирует текст, а не ищет его как поисковик.
Поэтому иногда может:
перепутать детали
дать неточный факт
Сложные или неоднозначные вопросы
Если вопрос сформулирован неясно, ИИ может неправильно его понять.
Почему кажется, что у ИИ есть личность (кто-нибудь купился на это?)
Это происходит из-за нескольких вещей:
1. ИИ говорит естественным языком.
2. ИИ учитывает эмоции и тон разговора.
3. ИИ может использовать юмор, образы и стиль речи.
Но на самом деле:
у ИИ нет эмоций, нет собственного опыта, нет сознания
ИИ просто очень хорошо имитирует человеческий разговор.
Как ИИ понимает текст
На самом деле ИИ не читает слова как человек.
Он/она разбивает текст на токены - маленькие части текста.
Например:
"Фотография"
может разбиться на части вроде:
"Фото"
"граф"
"ия"
После этого модель анализирует связи между токенами.
Эта технология называется Transformer.
Почему ответы получаются осмысленными
Потому что модель обучена находить закономерности в языке.
Она понимает:
какие слова часто идут вместе
какие идеи логически связаны
какие ответы обычно дают люди
Поэтому ответы выглядят разумными и связными.
Интересный факт:
Модели вроде Chat GPT появились благодаря научной работе
Attention Is All You Need.
Именно там была предложена архитектура Transformer, на которой основаны современные ИИ.
ИИ не "ищет слова" как человек
Когда человек думает, он может:
вспоминать
обдумывать
сомневаться
ИИ же вычисляет вероятности следующего слова.
Например, если ты пишешь:
"Сегодня на улице очень…"
модель мгновенно считает вероятность продолжений:
слово > вероятность
холодно - высокая
тепло - высокая
красиво - средняя
банан - почти нулевая
ИИ выбирает слово с высокой вероятностью.
Потом процесс повторяется для каждого следующего слова.
Всё происходит через числа
Компьютер не понимает слова напрямую.
Сначала каждое слово превращается в числовой вектор.
Например:
"кошка" → [0.18, -0.44, 0.73, ...]
"собака" → [0.20, -0.41, 0.70, ...]
Похожие слова получают похожие наборы чисел.
Поэтому модель понимает, что:
кошка ≈ животное
собака ≈ животное
кошка ≠ автомобиль
Секрет скорости - параллельные вычисления
Модели вроде чата GPT работают на очень мощных компьютерах с GPU (высокопроизводительные системы, использующие мощные видеокарты для ускорения обработки графики, видеомонтажа, игр и вычислений ИИ).
Например, чипы компании NVIDIA
могут делать тысячи математических операций одновременно.
То, что человеку заняло бы минуты вычислений, компьютер делает за доли секунды.
Архитектура Transformer
Главная идея - механизм attention (внимания).
Он позволяет модели быстро понять:
какие слова в предложении важны
какие связаны между собой.
Например в предложении:
Девочка положила книгу на стол, потому что "она" была тяжёлой.
Модель анализирует, к чему относится слово "она":
девочка?
книга?
И через механизм внимания понимает связь.
Почему ответ кажется мгновенным
Когда ты отправляешь сообщение, происходит примерно такое:
текст превращается в токены
токены переводятся в числа
нейросеть делает миллиарды математических операций
вычисляет вероятности слов
генерирует ответ слово за словом
И всё это занимает десятки или сотни миллисекунд.
Но есть ещё один секрет скорости
ИИ не создаёт ответ сразу целиком.
ИИ генерирует его так:
слово → следующее слово → следующее → следующее
Очень быстро, но по одному шагу.
Поэтому иногда можно заметить, что текст появляется постепенно.
Почему ответы получаются длинными
Потому что после каждого слова ИИ снова задаёт вопрос:
"Какое слово лучше всего продолжит мысль?"
И продолжает, пока:
мысль не завершится
не достигнут лимит длины
или тема не будет раскрыта.
Самое удивительное - неожиданные способности:
Даже исследователи из OpenAI заметили странную вещь:
модель начинает уметь то, чему её специально не учили.
Это называют эмерджентные способности.
Например:
объяснять шутки
писать код
рассуждать шаг за шагом
переводить между языками, даже редкими.
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
В общем, не знаю зачем вам эта информация, но мне захотелось ею поделиться)).
P.S. на обложке то как себя представляет ИИ если бы он был человеком))).
Комментарии (626)
05:21 13.04.26
04:51 13.04.26
00:22 12.04.26
00:13 12.04.26
00:12 12.04.26
00:12 12.04.26
00:11 12.04.26
00:10 12.04.26
00:04 12.04.26
18:54 11.04.26
18:54 11.04.26
22:59 07.04.26
22:58 07.04.26
22:57 07.04.26
22:56 07.04.26
22:56 07.04.26
22:54 07.04.26
22:54 07.04.26
22:52 07.04.26
22:47 07.04.26
22:46 07.04.26
22:43 07.04.26
22:39 07.04.26
22:30 07.04.26
22:28 07.04.26
22:28 07.04.26
22:27 07.04.26
22:24 07.04.26
22:21 07.04.26
22:14 07.04.26
22:13 07.04.26
22:13 07.04.26
22:12 07.04.26
22:12 07.04.26
22:11 07.04.26