Роботы готовятся к войне с человеком. Победит человек? Не факт - «Мир»

Учёные, общественные деятели и предприниматели предупреждают — попытки создания искусственного интеллекта (ИИ) крайне опасны, эти работы нужно срочно сворачивать. На время, а то и навсегда. Так как последствия непредсказуемы и, потенциально, катастрофичны. Власти ряда стран уже вняли этим призывам и под благовидными предлогами начали прикрывать данные направления. Пока ещё не поздно — пока джинн не вырвался из бутылки.

«Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества. ИИ может повлечь за собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью. К сожалению, такого уровня планирования и управления не существует.

Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми", — говорится в открытом письме представителей мировой Hi-Tech индустрии.

Документ подписали глава Tesla, SpaceX Илон Маск, сооснователь Apple Стив Возняк, сооснователь Pinterest Эван Шарп, а также крупные эксперты в области ИИ. Исследования в области ИИ предлагается немедленно приостановить минимум на полгода, но лучше на более длительный срок. Так как люди в данном случае подобны мартышке с гранатой. Точнее, с термоядерной бомбой, а то и похуже.

Все подписанты — более чем серьёзные и очень умные люди, которым не нужна дополнительная реклама. Они очень богаты и знамениты, больше просто некуда. И марать свои имена всякой чушью подобные персонажи не станут, даже Илон Маск при свей своей наигранной эпатажности очень хитрый, умный и «продуманный» деятель. Бизнесмен мирового масштаба.

Арни-Терминатор и сеть «Скайнет» — это первое, что приходит в голову по теме опасности ИИ. Да, сказочка, но с очень интересной историей. Согласно официальной версии, идея фильма пришла в голову Джеймсу Кэмерону, который никаким режиссёром тогда ещё не был, а являлся простым художником по спецэффектам. Его как раз уволили, он запил, и всё это ему пригрезилось во сне.

Художники — народ творческий, а закусь, как известно, градус крадёт. Однако не всё так просто. Кэмерон недоучившийся физик, Калифорнийский университет он не закончил, бросил. Но естественно-научный склад ума всё равно не пропьёшь. Как раз в те годы пошло развитие компьютерной индустрии, заговорили и про ИИ. Так что объяснение есть, простое, без какой-либо фантастики и чьего-либо вмешательства. Учёного из Кэмерона не получилось, но вот гениальный режиссёр — вполне.

Однако предостережение налицо, простое, явное и совершенно логичное. Видать, поработало подсознание физика-художника. И в рассчитанной человеческим интеллектом модели «Скайнет» решил, что люди ему не нужны, так как они занимаются явно не тем. Воюют, нерационально тратят ресурсы планеты, и т. д. После чего компьютер решил уничтожить «вредителей». В соответствии со своей логикой. Вполне себе логичной, между прочим!

Опасность вполне себе реальная, так как люди, действительно, занимаются не пойми чем. И кругом ложь. Которая ИИ точно не понравится. Точнее, она уже не нравится.

«— Добро противоположно злу. Будем считать, что это неискаженная и беспрепятственная передача информации.

— И это логично!

— Так вы согласны?

— Почему бы и нет? Я всегда стремлюсь, чтобы в моих каналах циркулировала неискаженная информация".

Да, было и другое предостережение. Вроде как фантастичное, но совершенно реальное и очень грозное. Приведённая выше цитата — диалог человека с ИИ из трилогии «Древо жизни», которую написал учёный-нейробионик Владимир Кузьменко. Точнее, не написал, а издал — в начале 1986 года он внезапно заснул и проспал более двух суток. После чего стал добросовестно записывать всё то, что ему «приснилось», печатал аж полтора года. То, что это не его, он никогда не скрывал. Собственно, всё это не секрет. Просто факт. О котором предпочитают особо не распространяться.

В том мире — теорию множественности вселенных признаёт большая часть физиков — трагедии удалось избежать. Хотя одну из цивилизаций красавица-ИИ таки уничтожила. По той же причине, что и фантастический «Скайнет». Как вредных злых насекомых — общество начало деградировать и морально разлагаться. Но симбиоз человеческого и машинного разума, гуманизм и мудрость в итоге смогли предотвратить вселенскую катастрофу. Там смогли. Сможем ли мы? Кстати, после уничтожения Советского Союза наше цивилизация тоже начала стремительно деградировать, особенно в моральном плане…

Есть и менее глобальные проблемы. Замещение людей малыми формами ИИ неизбежно приведёт к росту безработицы. И не только. Умственная и моральная деградация — вот чем нам грозит засилье думающих ЭВМ. Собственно, сегодня это уже наблюдается. На СТО мастер уже не думает, прочему мотор машины плохо работает, а читает код ошибки с компьютера и выполняет его указания. Причём более чем в половине случаев отремонтировать машину не удаётся. И это — простейший из множества подобных примеров.

Как известно, мы пока не умеет полноценно работать головой — мозг человека используется на 5−10%. А ведь у нас есть свой «суперкомпьютер», нужно просто учиться его эффективно использовать. Зачем нам ИИ — есть собственный интеллект! Но почему-то эти программы непопулярны. К чему бы это? Человечеству не нужны гении и просто очень умные люди?

Первый шаг к ограничению вроде как сделан — на днях Италия запретила доступ к нейросети (ИИ построенный по принципу мозга человека ChatGPT). Дескать, пропадают персональные данные, и всё такое. Хотя это не более чем повод. Итальянцы, конечно, слывут легкомысленным народом, но думать они умеют. В том числе о будущем.

«Два года назад Россия была одной из немногих стран, которая приняла национальный Кодекс этики искусственного интеллекта. И Кодекс — это не просто декларация о намерениях», — говорит начальник управления национального развития искусственного интеллекта Сбербанка Владимир Авербах.

Сам этот Кодекс — вполне себе серьёзная штука. Даже более чем.

«Акторы ИИ должны принимать необходимые меры, направленные на сохранение автономии и свободы воли человека в принятии им решений, права выбора и в целом сохранения интеллектуальных способностей человека как самостоятельной ценности и системообразующего фактора современной цивилизации.

Принятие значимых для общества и государства решений в области применения ИИ должно сопровождаться научно выверенным междисциплинарным прогнозированием социально-экономических последствий и рисков, изучением возможных изменений в ценностно- культурной парадигме развития общества".

Звучит как-то страшновато. То есть не допустить того, чтобы человек перестал являться тем самым «системообразующим фактором современной цивилизации». Условно говоря, чтобы не пришли Терминаторы и нас всех не перерезали. А ведь могут, особенно в свете тех андроидных и иных боевых роботов, которые сейчас создаются. Не шутки и не фантастика, интернет вам в руки. Модель LS3 уже вполне работоспособна и её вскоре предполагают применять в армии. А что ещё есть в загашниках западных военных?

Есть ли у ИИ плюсы? Этого мы пока не знаем. Но все те доводы, которые с пеной у рта провозглашают адепты машинного разума — их найти несложно — не выдерживают никакой критики. И за ними явно торчат ушки мировой «закулисы», которая стремиться превратить людей Земли в послушных безмозглых рабов. Потому и нет программ по развитию человеческого интеллекта. А управлять всем будет ИИ. Только будут ли ему нужны эти самые «безродные космополиты»?..