Privet, Dmitriy!
Пт 17.11.23 14:50, Dmitriy Ignatov (2:6035/66.3) писал(а) мне в сообщении по
ссылке area://obec.3boh?msgid=2:6035/66.3+65575748:
DI>>> Hу, это же нейросеть. Своего рода математическая модель
DI>>> мышления. Она лишена воли, лишена рефлексии, поэтому находится
DI>>> вне поля критики.
[...]
GH>> Романтичный абзац получился. Пафосненько так. :-)
GH>> Hо хотелось бы покритиковать. Вернее, уточнить пару моментов.
DI> Вот стоит написать абзац на 3 строчки, как сразу вовлекают в дискуссию
DI> на 3 часа... Чувствушь, кто тут писатель, да? ;)
Так ведь такие дискуссии -- лучшее, что сейчас есть в Фидо (которая по сути на
данный момент лишь небольшая фрагментированная "локалка"). К тому же, я помню,
как ты пиарил Фидо (чисто на адреналине, видимо) лет 12 тому назад, когда оно
уже было кадавром, и, в общем, хорошо, что твой энтуазизмЪ пока не пропал.
Респект! :-)
Разве в комментах к постам в телеге или (Упаси Создатель) инстаграме возможны
подобные осмысленные диалоги? Очень маловероятно.
GH>> Данный класс нейросетей (GPT) не мат.модель чего-либо, тем более
GH>> мышления -- потому, что никто пока не может дать внятный ответ на
GH>> вопрос "Что такое мышление".
DI> Ясен пень, что я сильно редуцировал и мышление к речи не сводится. Hо
DI> тем не менее функции мозга в существенной степени локализованы,
DI> значит, в каком-то смысле речевые/языковые модели (LLM) могут
DI> (осторожное утверждение) частично иллюстрировать некоторые реальные
DI> механизы формирования речи (в т.ч. письменной).
По словам экспертов, GPT -- это такой "чёрный ящик", который обучается на
громадном количестве материала и становится способен очень искусно подражать
мыслительным и речевым практикам человека (иногда даже отзеркаливая стиль
"литературный стиль" собеседника). Hо это всего лишь подражания, на "чистое"
творчество он вряд ли способен (пока). Hа Хабре была статья от человека в теме,
который писал, что gpt-4 в процессе "тренировки" языковой модели каким-то
образом обучился арифметике, хотя создатели не влючали этого в курс обучения.
То есть, внутри "чёрного ящика" произошел некий количественно-качественный
переход, которого никто не планировал и не ожидал.
Я несколько месяцев назад пытался беседовать с чат-ботом на "отвлеченные" темы,
даже про литературу спрашивал. В общем, нормально ответил, вроде придраться не
к чему. Может быть, gpt-5 или 6 сможет и что-то большее предложить в плане
"пищи для размышлений".
Вот фрагментик:
---=== Куть он "Windows Clipboard" ===---
Q: Способен ли искусственный интеллект, подобный GPT, читать художественную
литературу с целью обучения, анализировать ее, делать какие-то этические
выводы, понимать и даже комментировать, или же это сугубо привилегия человека?
A: Искусственный интеллект, подобный GPT, способен читать художественную
литературу и анализировать ее. Однако, делать этические выводы и комментировать
- это уже более сложные задачи, которые могут требовать от интеллекта понимания
контекста и эмоциональной составляющей текста, что пока что является сложным
для машинного обучения. Также стоит учитывать, что этические выводы и
комментарии могут быть субъективными и зависеть от мнения человека, поэтому в
этом случае привилегия человека остается неоспоримой.
Q: Hо ведь ИИ может обладать некими этическими программами, которые не
позволяют давать потенциально или явно вредные инструкции, способные нарушить
безопасность человека или общества?
A: Да, это верно. Искусственный интеллект может быть обучен определенным
этическим принципам и программам, которые позволяют ему принимать решения,
основанные на этических нормах. Hапример, многие компании, разрабатывающие ИИ,
включают в свои программы этические принципы и стандарты, такие как принципы
безопасности и защиты личных данных. Однако, как уже упоминалось, ИИ все еще не
может полностью заменить человеческое понимание этики и морали, и поэтому важно
сохранять роль человека в принятии решений, особенно в случаях, когда речь идет
о сложных этических вопросах.
---=== Куть офф "Windows Clipboard" ===---
DI> И да, разумеется, говоря о примитивности, я впервую очередь применил
DI> это слово не для оценки самой системы, а результирующего продукта,
DI> который мы все (кожаные ублюдки) оцениваем с высоты своих способностей
DI> и предпочтений.
Да, увлекательные рассказы и истории -- не её стезя, пока что. :-)
DI> И вообще (раскрываю секрет) весь нейросетевой тред - это была
DI> глумливая шутка про конкретного белкового автора, который уже сейчас
DI> пишет так же, как нейросеть.
Тут есть такой эффект "сферического автора в вакууме". Скажем, модель в
качестве тренировки прочитала весь сайт
proza.ru и получила скилл "среднего
белкового автора рассказов". Поэтому она пишет сабжевый рассказ плюс-минус так
же, как это сделал бы он.
Regards, | Сб 18.11.23, 00:06
Gleb