Читаю тут одну...

[nio]

... весьма злободневную сейчас книгу, и вот что скажу: прочесть её надо как тем, кто превозносит одну популярную программу, так и тем, кто ни в грош её не ставит. Потому что не правы оба лагеря. Первые - оттого, что их ожидания завышены, а надежды - преждевременны. Вторые - потому, что революция таки действительно случилась и некоторые профессии действительно вымрут в ближайшие несколько лет. Первым будет холодный душ на голову, вторым - предостережение.


— Когда-то давно люди понадеялись на машины, думая, что с их помощью смогут сделаться свободными. Но вместо этого машины помогли меньшинству поработить большинство.
— «Да не дерзнет никто создавать машину по образу и подобию человеческого разума», — процитировал Поль.
— Правильно. — Преподобная Мать одобрительно кивнула. — Так сказано в Истории Бутлерианского Джихада и Оранжевой Католической Книге. Но на самом деле в Оранжевой Книге должно быть сказано: «Да не дерзнет никто создавать машину, подменяющую человеческий разум».

Comments

[test-user-dmt]

Эта популярная программа - игрушка. Она выдаёт список связанных друг с другом слов. Имитировать общение она может очень хорошо, а вот давать правильные ответы не обязана. Тем не менее, последовательность связанных выданных слов, полагаю, может быть использована для построения неких выводов, напоминающих размышления программы (внутренний монолог у людей). В этом случае можно получить интересные размышления GPT и посмотреть куда её поведёт и с какими результатами.

[nio]

Игрушка не игрушка, а всяческому планктону вроде копирайтеров да маркетологов пора искать новую работу. А лучше - какие-нибудь курсы или даже второе высшее. Срочно. Рядовым сотрудникам в этих и некоторых других профессиях делать будет уже нечего. Начальство ещё какое-то время продержится, будет контролировать выдачу "игрушки" перед запуском "в печать".

[test-user-dmt]

В силу принципа работы, GPT всегда будет страдать фантазиями вроде


Система, которая выдаёт результат с неизвестной достоверностью аналогична системе, которая всегда врёт. Всё равно придётся проверять каждый выданный результат.

[nio]

Это болезни роста. Первые нейросети собаку от кошки отличить не могли.

[test-user-dmt]

Исходя из принципа работы, эта игрушка просто имеет в своей сети связи между словами и их последовательностями. А это значит, что чтобы контекст получался верным, сеть должна уже быть на нём обучена. Если же контекст не угадывается (в обучающей выборке не было связи данных слов), то начинаются фантазии. Это неустанимо никак, кроме как обучением всеми возможными контекстами. Вот тогда работать будет. Но тоже где гарантия, что верно? Вон, коллега просил написать на питоне что-то. GPT уверенно написала. Одна беда - метода такого нет, она его сама придумала.
Ну а мне на вопрос как из показаний акселерометров и гироскопов получить крен и тангаж, эта игрушка расписала алгоритм:
1) Взять показания.
2) Применить тригонометрию.
3) Вот ваши углы.
Э... А разъясни-ка пункт 2.

GPT: Легко! Тригонометрические функции - это функции...

Э... То есть, напрочь не понимает контекст. Не встречала при обучении такой задачи.


>>Первые нейросети собаку от кошки отличить не могли.

Они и сейчас не могут, стоит цветового шума добавить.

[nio]

Ну, это... Я сейчас буду аналогию приводить, но она мне весьма уместной кажется, потому что там тоже нейросети.
Рождается, значит, младенец. И сразу после рождения он не может практически ничего. Он даже не может видеть, потому что собственными глазами пользоваться не обучен, и из всего окружающего мира способен пользоваться только одним предметом с интуитивно понятным интерфейсом - маминой грудью. Но со временем он развивает свою нейросеть и натаскивает её на всё, именно как вы выразились: обучением всеми возможными контекстами. И это очень хорошо заметно, я уже много раз сталкивался с тем, что поначалу о какой-то области моя дочь несла какие-то фантазии, а после пары книг - рассуждала уже вполне адекватно. Натаскивает она нейросеть в самом что ни на есть буквальном смысле, увеличивая количество связей между нейронами и регулируя их веса. И вот оглянуться не успеешь, а оно уже в первый класс ходит, а ещё чуть погодя и до аспирантуры доберётся.

Так вот мы сейчас наблюдаем именно рождение и первые дни после него.

[test-user-dmt]

"Все аналогии ложны".
Эти "нейросети" к реальным биологическим нейронным сетям кроме названия и элементарных элементов типа "нейрон" никакого отношения не имеют. Они и работают и обучаются совершенно иначе, чем биологические нейронные сети (с которыми мы и сравниваем результаты). Поэтому что родит при обучении такая наша модель неизвестно. Тем более, узкоспециализированная на обработку текстов.

Однако, действительно, даже такая модель работы с текстами способна строить логические выводы.

Но не следует забывать и про вот такое.