|
Cамиздат «Батенька, да вы трансформер»
вполне мог бы запустить интерактивный тест,
в котором нужно угадать, насколько любое
случайное явление или тенденция далеки от
потенциально полного уничтожения планеты и жизни
на ней. Правила игры достаточно простые:
загадайте сферу человеческой деятельности,
индустрию, внимательно на неё посмотрите — и
задайте себе вопрос: сколько нужно совершить
шагов, чтобы эта штука прикончила всех людей на
планете? Дополнительное условие — пандемия
коронавируса ускоряет этот путь в несколько раз.
Возьмём, к примеру, разработки искусственного
интеллекта, которые позволяют ставить
медицинские диагнозы или лечить людей от
смертельных болезней. Сколько шагов от этого
полезного начинания до смерти хотя бы одного
человека по вине машины или ошибки в коде? Один
— и вот аппарат для лучевой терапии зажаривает
онкобольного дозой радиации в 20 раз выше
допустимого. Сколько отсюда шагов до
технологического геноцида? Всего
один!
Ещё до начала пандемии
искусственный интеллект и роботы бурно
развивались в сфере здравоохранения — по мнению
исследователей, именно в деле спасения людей от
их болезней и от врачебных ошибок ИИ ждут
главные вызовы и востребованность. Глубокое
обучение показало впечатляющие результаты в
анализе медицинских снимков для распознания рака
груди и лёгкого,
глаукомы
— машины уже умеют это делать не хуже человека,
а чаще — быстрее и лучше. Компьютерное
зрение может
распознать симптомы болезни Альцгеймера
раньше специалистов и помогает
пациентам в реанимации и в отделениях
интенсивной терапии. В начале марта 2020 года
консалтинговая компания McKinsey & Company и
Европейский институт инноваций и
технологий выпустили
совместный доклад, в котором
спрогнозировали, что ИИ может усовершенствовать
уход за пациентами, облегчить их страдания во
время лечения, сделать медицинские услуги более
доступными; увеличить продуктивность как всей
системы, так и самих специалистов, при этом
снижая риск выгорания и повышенного стресса у
врачей. На ИИ в медицине делаются большие
ставки.
Но массовое внедрение этих
технологий, как это обычно бывает с инновациями,
столкнулось с множеством трудностей и преград:
вопросы безопасности персональных данных не дают
собрать нужный объём информации для обучения
алгоритмов, предубеждения и неосведомлённость
чиновников приводят к законодательным
сложностям. Плюс сами предприниматели и
разработчики медицинского ИИ не
всегда до конца понимают, что реально нужно
пациентам и почему они побаиваются доверяться
машине, что тоже не ускоряет повсеместное
применение.
И тут пришёл коронавирус. В
прошлых выпусках рассылки я не раз показывал,
что пандемия не порождает новые явления, а
ускоряет уже существующие тенденции и
микротренды. Теперь команда Google DeepMind
изучает, как глубокое обучение может помочь в
разработке вакцины. Белый дом попросил
исследователей создать технологию машинного
обучения, которая сможет проанализировать более
тридцати тысяч исследований, связанных с
коронавирусом, чтобы лучше его понять. С одной
стороны, госпитали в разных уголках планеты в
спешном режиме запустили ИИ-технологии, чтобы
справиться с наплывом пациентов и анализов на
коронавирус и пневмонию, как, например,
в британском The Royal Bolton Hospital. С другой
стороны, Эрик Топол, основатель и директор
некоммерческой организации Scripps Research
Translational Institute, ставящей своей целью
создание доступной и персонализированной
медицины для каждого, говорит, что пока ИИ в
борьбе с коронавирусом толком не помог.
Потребуются месяцы, а может быть, даже годы,
чтобы технологии достигли нужного уровня, но
гонка уже
началась.
Хорошо. Но при чём
здесь возможный геноцид всех людей? Дьявол — в
деталях и в уточняющих вопросах, которые
самиздат постоянно задаёт всему
сущему.
Макс Тегмарк,
шведско-американский космолог и астрофизик,
профессор Массачусетского технологического
института и член научной дирекции Института
основополагающих вопросов, в своей книге «Life
3.0. Being human in the age of Artificial
Intelligence» (отличная книга, на русском языке
тоже издавалась,
советую) высказывает ряд опасений за судьбу
человечества из-за возможности скорого появления
сверхразумного искусственного
интеллекта.
Тегмарк делит существование
на планете на несколько видов. Жизнь 1.0 — это
примитивная бактерия, которая не в состоянии
ничему научиться за всю жизнь. Люди — это Жизнь
2.0: они могут обучаться и, как это называет
Тегмарк, устанавливать новое ПО в свой мозг —
новые навыки, языки, открытия, мысли, паттерны.
А Жизнь 3.0, искусственный сверхразум, сможет
создавать для себя не только software, но и
hardware. До этого ещё далековато, и Тегмарк
говорит, что с помощью технологий люди добрались
до Жизни 2.1 — у нас есть искусственные суставы,
органы, бионические конечности, экзоскелеты,
стимуляторы и кохлеарные импланты. Созданные
людьми роботы уже умеют видеть, двигаться;
беспилотные автомобили тестируют на улицах 13
регионов России; ракеты научились возвращаться
на планету и приземляться; искусственный
интеллект умеет не только распознавать лица даже
в масках, но и генерить лица несуществующих
людей.
Что случится, когда Жизнь 3.0
появится? Что будет делать искусственный
интеллект? Каким он будет?
Макс Тегмарк
изображает возможности и вызовы ИИ в виде карты
рельефной местности, где возможности ИИ — вечно
поднимающийся уровень моря, а вызовы — всё более
высокие горы и холмы. Под воду уже ушли
арифметика, шахматы, игра Го, зрение и
распознавание речи — современный ИИ умеет это
всё делать подчас лучше человека. Следующие на
очереди — вождение, языковые переводы,
инвестирование; чуть позже — менеджмент и
социальное взаимодействие. Последними падут
программирование, доказательство теорем,
написание книг, кинематограф, искусство, дизайн
нового искусственного интеллекта и, наконец,
наука. Как высоко способна подняться вода? Если
до самого верха гор, то ИИ станет настолько
сильным, что человек просто перестанет быть
самым умным существом на планете: ведь,
сравнявшись с человеком, ИИ сумеет заняться
своим развитием уже самостоятельно, стремительно
оставив нас позади и создав суперинтеллект. Его
возможности не будут ограничены биологическими
рамками, он станет быстро самообучаться и
развиваться. После этого вероятно как
лавинообразное появление новых технологий и
невиданный прогресс во всех сферах, так и
непредсказуемые для людей последствия, если ИИ
выйдет из-под контроля. На днях мы опубликовали
текст «Лучше тебя: как нейросети
захватывают мир», в котором мы разбирали,
как нейронные сети неизбежно лишат работы
даже самих программистов, устраивают
автомобильные аварии, пишут многозначительные
стихи и ведут фейковые твиттеры
от имени политиков, почти неотличимые
от реальных по степени
чудовищности.
Макс Тегмарк верит,
что у ИИ есть большой потенциал в
здравоохранении. Современные технологии уже
многое усовершенствовали в этой сфере:
цифровизация медицинских карт пациентов уже
скорректировала и ускорила принятие решений
врачами, развивается телемедицина — и сегодня
можно, не выходя из дома, проконсультироваться с
нужным специалистом. Развитие машинного зрения и
глубокого обучения даст возможность ИИ самим
ставить диагнозы людям. Если машинное обучение
научится выявлять взаимосвязи между генами,
заболеваниями и реакциями на лечение, то нас
может ждать революционный передел в персональной
медицине, а заодно, уверяет учёный, сделает
фермерских животных здоровее и укрепит иммунитет
растений. Роботы вполне могут стать лучшими
хирургами, чем люди, — последние несколько лет
они уже применяются в операционных по всему
миру, и роботизированные операции, как правило,
точнее, требуют меньше надрезов, кровопотери и
времени для заживления ран.
Но, конечно,
не обходится без жертв. Например, баг в
программном обеспечении медицинского ускорителя
Therac-25 в 1985 году убил
нескольких человек смертельной дозой облучения
во время сеансов радиационной терапии.
Программное обеспечение, содержащее ошибки, было
написано одним человеком, баги долгое время не
замечали и связывали все неполадки с аппаратными
сбоями, системные сообщения о критических
ошибках подавались как рутинные, а само ПО
считали идеальным. Только после несколько лет
исследований привлечённых во время суда
экспертов показали серьёзные ошибки в
разработке. В начале 2000 года в Панаме 21
человек погиб из-за чрезмерного облучения
кобальтом-60 во время терапии — тоже из-за
ошибки в софте. В 2000–2013 в США роботы-хирурги
были причастны
к 144 смертям и 1391 повреждению на операционном
столе, включая падение сломанных или подгоревших
хирургических инструментов внутрь человека,
неконтролируемые движения и внезапную
потерю электропитания. Но это, правда, на
фоне миллионов успешных операций. Баг, а не
фича.
Но кто несёт ответственность, если
применяемый в лечении инструмент совершает
ошибки? Если сама клиника/больница разработала и
использует собственную технологию, которая
нанесла вред, то, конечно, отвечает сама
клиника. Но что происходит, когда ошибается
искусственный интеллект, произведённый и
проданный коммерческой компанией? Очевидных
ответов пока нет; ресурс Future of Work
News говорит,
что людям и законодателям ещё предстоит в этом
разобраться.
Есть разные точки зрения,
случится ли изобретение суперинтеллекта вообще и
когда. Большая часть разработчиков ИИ, говорит
Тегмарк, склоняется к тому, что это вопрос всего
лишь пары десятилетий. И это поднимает тонну
вопросов: а что дальше будет с людьми? Если
машины смогут делать всё лучше и дешевле нас, то
что останется человеку? Зачем он будет нужен?
Что с ним сделает ИИ? Ведь, скажем, исчезновение
целых видов животных и шестое вымирание
происходит не из-за какой-то особой ненависти
людей к животным, а потому, что люди умнее и
проворнее этих животных, которые просто
становятся жертвами человеческой деятельности.
Как людям избежать аналогичной участи, когда ИИ
заработает в полную силу? Как не оказаться под
катком прогресса и не пасть жертвой собственных
детищ? Изобретение ИИ, замечает Тегмарк, дело
серьёзней создания ядерной бомбы, которой люди
научились пользоваться уже после её изобретения.
С ИИ такой фокус не пройдёт.
Люди,
говорит Тегмарк, бьются и строят всё новые
алгоритмы и создают искусственный интеллект
потому, что ими движет любопытство и
экономические причины. Но кто должен отвечать за
это будущее? Люди? Машины? Все вместе? Что нужно
сделать? Построить суперинтеллект и держать его
под контролем как порабощённого бога? Или дать
ИИ уничтожить весь наш мир, а им самим стать
нашими потомками, достойными продолжателями
нашего рода? Или надо умудриться построить
дружелюбную сущность, которая избавит нас от
бедности, суматохи, болезней и войн и при этом
не захочет стереть нас с лица земли за наши
грехи?
А начиналось всё с того, что
хотели вылечить всех больных.
Расскажите
мне, что вы думаете обо всём этом. Какие
современные технологии, которые только-только
начинают развиваться, вас завораживают и
удивляют, но при этом — пугают? Мне будет
интересно узнать, какие перемены и трансформации
— может быть, едва заметные — вы примечаете
вокруг себя. За чем вы следите? Что кажется вам
важным? Какие закономерности вы начинаете
прослеживать вокруг? Поделитесь наблюдениями —
мы всегда в поиске новых явлений и микротрендов
и будем рады подробнее разобраться в явлениях,
которые вас волнуют. В следующий раз я хочу
поговорить про технофобию, так что если вам
будет что рассказать на этот счёт или попадётся
на глаза какая-то интересная ссылка, дайте
знать.
Спасибо и
удачи. |
