*[Enwl] Доклад Совбезу ООН об угрозах ИИ
ENWL
Роботы могут перестать подчиняться человеку
(...)
Директор Института ООН по исследованию проблем разоружения (ЮНИДИР) Робин Гайс напомнил, что с момента своего создания в 1980 году в качестве автономного научно-исследовательского учреждения в рамках Организации Объединенных Наций ЮНИДИР помогает государствам лучше понять значение науки и техники в области международного мира и безопасности.
Он привлек внимание участников встречи к тому, что все устоявшиеся технологии, которые сегодня формируют реальность мира и конфликтов, когда-то считались лишь перспективными разработками. Последние достижения в таких областях, как передовая робототехника, 3D-печать, биотехнологии, киберпространство или космос, теперь являются источником для беспокойства в контексте дискуссий о мире и разоружении.
Времени на раскачку нет
Гайс отметил, что во взаимосвязанном цифровом мире новые технологии и научные достижения разрабатываются, продвигаются на рынке и внедряются с беспрецедентной и постоянно растущей скоростью. «Потребовалось полвека, чтобы система электросетей, разработанная в 1880-х годах, достигла 100 миллионов домов по всему миру. В 2022 году ChatGPT добился такого же результата всего за два месяца», – сказал он.
По его словам, у политиков сегодня в распоряжении гораздо меньше времени на то, чтобы отреагировать на технические достижения и принять меры. При этом многие технологии могут применяться не только в тех областях, для которых они предназначались.
Новая эра в развитии ИИ
Директор ЮНИДИР предупредил, что в течение следующих 5-10 лет квантовые технологии окажут значительное влияние на мир и безопасность. В частности, традиционные методы шифрования могут безнадежно устареть, а квантовые датчики позволят обнаруживать объекты под землей или под водой. Квантовые вычисления, по словам докладчика, откроют новую эру для искусственного интеллекта, позволяя вычислять модели, которые в настоящее время не могут быть запущены даже на самых мощных компьютерах.
В течение следующего десятилетия и далее также ожидаются значительные успехи в области общего искусственного интеллекта, или ОИИ. В отличие от современных систем искусственного интеллекта, которые преуспевают в выполнении конкретных задач, но ограничены узкими приложениями, ОИИ сможет понимать, учиться и применять знания динамически в широком диапазоне контекстов, что позволит ему работать со степенью гибкости, более близкой к человеческому интеллекту. «Этот глубокий сдвиг будет иметь далеко идущие последствия для всего общества», – предупредил Гайс, выделив два особо опасных фактора.
Во-первых, как только ОИИ достигнет уровня интеллекта, превышающего человеческие возможности, люди могут потерять способность управлять им или ограничивать его действия. Многие эксперты видят в этом конкретный, вероятный риск, заслуживающий серьезного внимания, особенно учитывая экзистенциальный характер угрозы.
(...)
From: ENWL <en...@enw.net.ru>
Date: чт, 24 окт. 2024 г. в 09:26
Subject: *[Enwl-dig] [ENWL-uni] Краткая сводка en...@googlegroups.com - Сообщений: 15 в Тем: 15 (23.10.24)
------------- * ENWL * ------------
Ecological North West Line * St. Petersburg, Russia
Independent Environmental Net Service
Russian: ENWL (North West), ENWL-inf (FSU), ENWL-misc (any topics)
English: ENWL-eng (world information)
Send information to en...@enw.net.ru
Subscription,Moderator: en...@enw.net.ru
Archive: http://groups.google.com/group/enwl/
New digests see on https://ecodelo.org
(C) Please refer to exclusive articles of ENWL
-------------------------------------