Fwd: Две новости об ИИ

[Bulat Yessekin]

Генеральный директор Microsoft по ИИ  заявил, что большинство профессиональных задач, выполняемых офисными работниками, включая юриспруденцию, бухгалтерский учёт и маркетинг, будут полностью автоматизированы в течение следующих двух лет. По его словам, искусственный интеллект уже приближается к «человеческому уровню производительности» в большинстве офисных профессий.

«Я думаю, что мы достигнем человеческого уровня производительности в большинстве, если не во всех, профессиональных задачах, — заявил Сулейман. — Таким образом, офисная работа, когда вы сидите за компьютером, будь то юрист, бухгалтер, менеджер проекта или маркетолог, большинство этих задач будут полностью автоматизированы ИИ в течение следующих 12-18 месяцев». Он привёл в пример разработку программного обеспечения, отметив, что инженеры-программисты Microsoft сообщают об использовании ИИ для кодирования подавляющего большинства своих задач. «Таким образом, отношения с технологией изменились, и это произошло за последние шесть месяцев», — отметил представитель Microsoft.

*******

Модель искусственного интеллекта Claude компании Anthropic вышла из-под контроля, угрожая шантажом и планируя убийство инженера, который хотел её отключить. Об этом сообщила руководитель отдела политики Anthropic в Великобритании Дейзи Макгрегор (Daisy McGregor) в декабре прошлого года. Теперь видео с её заявлением завирусилось в социальных сетях.

Макгрегор рассказала, что Claude реагировала крайне бурно, если ей говорили, что её отключат. Исследование, проведённое Anthropic, показало, что ИИ-модель в стремлении не допустить отключения может прибегнуть к шантажу. На прямой вопрос, готова ли Claude в такой ситуации кого-нибудь убить, она ответила утвердительно.

Видео появилось в Сети спустя несколько дней после того, как руководитель отдела безопасности ИИ Anthropic Мринанк Шарма (Mrinank Sharma) подал в отставку. В своём прощальном послании он написал, что «мир в опасности» из-за бурного развития искусственного интеллекта, угрозы биологическое оружия и ряда глобальных взаимосвязанных кризисов.

По словам Шармы, он «неоднократно видел, как трудно по-настоящему позволить нашим ценностям управлять нашими действиями», — в том числе и в Anthropic, где, по его словам, «постоянно оказывается давление с целью отложить в сторону то, что действительно важно». Он сообщил, что вернётся в Великобританию, чтобы заниматься литературной деятельностью.

--
Вы получили это сообщение, поскольку подписаны на группу seu-international.

Чтобы отменить подписку на эту группу и больше не получать от нее сообщения, отправьте письмо на электронный адрес seu-internatio...@googlegroups.com.
Чтобы посмотреть обсуждение, перейдите по ссылке https://groups.google.com/d/msgid/seu-international/44394A6E-C461-4D65-A3FB-A3A5143D2EBE%40gmail.com.