Нейросети заменят человека?

То, что нейросети рисуют шесть пальцев на руке и картинки с эффектом «зловещей долины», давно уже в прошлом. Эти молодые программы, получив способность обучения, приобретают новые навыки со скоростью горного водопада.

Илон Маск уже начал интегрировать чипы в человеческий мозг, осталось усовершенствовать их, отточить «софт» и мир, предсказанный ещё Станиславом Лемом, вырастет на наших глазах. Нет, это не «Матрица», скорее остров наслаждений из книги Николая Носова «Незнайка на Луне».

Любой программист и биотехнолог понимает, что, постепенно совершенствуя программы и интеграцию с человеческим восприятием, можно добиться полной идентичности мета-мира и мира естественного, то есть виртуального и реального. Останется тоненькая нить воспоминания, что реальный мир где-то там, в прошлом, а стало быть, остаётся шанс вернуться назад, в реальность. Пока остаётся.

Что мы видим уже сейчас? 
Компьютер может распознавать образы и речь, обрабатывать естественный язык, анализировать, понимать изображения и видео, а также принимать решения. Тест Тьюринга пройден чат-ботом в 2014 году, в 2016 году компания DeepMind разработала ИИ-систему AlphaGo, которая победила чемпиона мира по го, одной из самых сложных стратегических настольных игр, с помощью чат-ботов поддерживается разговор в сети,. Что завтра? Журнальные статьи, написанные с помощью ИИ, уже реальность, музыка пишется такими темпами, что скоро музыкант, умеющий играть хотя бы на одном инструменте, станет редкостью, пишутся романы, снимаются сериалы и блокбастеры. То есть, очередь за тем, что мы полагаем своей, чисто человеческой вотчиной – творчество, философия и, наконец, власть и стратегическое планирование. 

Глядя на нынешние успехи нейросетевых программ, которые могут написать рассказ, сочинить мелодию, в авторстве человека которых никто не усомнится, становится понятно – нам волей-неволей придётся уважать продукты нейросетей, ведь вскоре они по всем параметрам будут качественней человеческих. И тут высвечивается настоящий ценностный конфликт.

Раньше маркером «своего» у подростков было единство тех же музыкальных интересов. Теперь, когда нейросеть может создать любую песню в любом стиле со своим собственным текстом, автор теряется. То есть, искусственная правда постмодернизма утверждается искусственным интеллектом. Здесь можно было бы улыбнуться, но улыбка уже кажется натянутой.

Интернет появился ещё в 70-х, но и в восьмидесятые и даже в девяностые был уделом корпораций, специалистов, фанатов кибернетики или просто богатых. В нулевых в России началась широкая компьютеризация и Интернет пошёл в массы. 2010-е годы отмечены внедрением в повседневную жизнь социальных сетей. В двадцатые – нейросетевые программы уже широко зашагали по планете. 

Сейчас внедрение примитивного искусственного интеллекта заметно и в соцсетях, и в медиа. Можно спрогнозировать, что 2030-е ознаменуются конкуренцией нейросетевых программ и нарастающей борьбой между миром человеческим и виртуальным. 

Михаил Булгаков писал, характеризуя свою Маргариту: «У нее была страсть ко всем людям, которые делают что-либо первоклассно».

Эта страсть свойственна не только Маргарите. Человеку свойственно облагораживать производителя эффектного продукта, особенно, если этот продукт будоражит чувство. Отсюда толпы фанатов, которые боготворят кумира, хотя он всего-то спел им песню. Но культура фанатства требует наличия автора. А когда его как личности уже нет? Или – пока нет. И это «пока» сильнее всего настораживает.

Искусственное сознание возникнет не у отдельно взятого робота, а, скорее всего, в сети. Уже сейчас пишутся романы с помощью нейросетей, но самым пугающим сюжетом станет такой, когда человек пытается удалить программу, а она в ответ пытается удалить его самого. 

Иногда возникает впечатление, что человек, словно индейка Бертрана Рассела в недавно вышедшей экранизации книги Лю Цысиня «Задача трех тех» покорно ждёт, пока ИИ осознает себя. Далеко не факт, что разразится война между людьми и роботами – с настойчивостью, достойной лучшего применения, предсказывает в основном западная фантастика. Искусственному разуму куда выгоднее создать заповедник, где людям будет обеспечена – кому райская жизнь, кому имитация борьбы и достижений. Конечно, из людей кто-то станет яростно протестовать, но не окажется ли, что и протест этот – в рамках симуляции?

Дело пока тормозится долгосрочными контрактами между людьми, между заказчиками творческого продукта и его производителями. И стоит добавить – нашей привязанностью к человеческим взаимоотношениям.

Похоже, многие будут испытывать идиосинкразию к нейросетевому продукту. Не всем приятна на уровне осознания «искусственная аналитика», им публицистика интереснее: когда за мнением стоит человек – его можно завербовать, очаровать, заполучить в свою команду, в конце концов, поколотить при встрече. С ИИ все эти фокусы не пройдут. Человек сложен и беда, что люди порой не понимают друг друга, но и здесь нейросети на высоте – эксперты в один голос утверждают, что иногда сложно объяснить, почему нейросетевая система приняла определенное решение. Мы не можем понять искусственный интеллект, как не можем понять человека.

Существует ещё один аспект – наличие человеческого авторства может пониматься при наличии в продукте ошибки, небрежности. Но не сможет ли ИИ имитировать эти ошибки? Его обучение происходит семимильными шагами.

Как нам отличать искусственные продукты от естественных? Что будет с авторским правом? Куда пойдут тысячи безработных, которых уволит искусственный интеллект?

Вопросы, вопросы, вопросы… И многие недооценивают серьёзности ситуации. Нейросети начинают конкурировать с самой важной составляющей человека – его творческой сущностью. 

За фасадом политической борьбы зреет совершенно новый мир с новой ролью, уготованной для человечества. Для наиболее инертной части общества нейросети – это серьёзный соблазн превратиться в безликого потребителя. И если вовремя не вмешаться в систему, многие имеют риск стать носителями киберразума. 

Миллиарды долларов и невероятные человеческие интеллектуальные усилия, вкладываемые в гонку современных ИИ-моделей, готовят нам новый мир, в котором роль человека, как минимум, будет пересмотрена. И отгородиться от соседей, которые могут получать результаты разработок быстрее нашего, не получится. К тому же, политическая конкуренция делает проблему ещё острее.

Есть два варианта развития отношений с ИИ – мягкий и радикальный. В первом варианте нейросети выпускают качественный продукт, который мы можем отличить от человеческого, как мы отличаем натуральные ткани от синтетических, а дерево – от пластика. Жизнь становится полнее, но остаётся понятной.

Во втором – нейросети учатся и могут выдавать настоящие шедевры. В этом случае человечество стоит на пороге экзистенциального кризиса.

Второй вариант, похоже, более вероятен. Это понятнее на примере. В музыкальных программах нейросетевого характера сидят тысячи пользователей. Среди них есть как посредственные авторы, так и талантливые. Имея систему оценки продукта через доступ к широкому потребителю, нейросеть «понимает» какой продукт качественнее. И эти пользователи ежедневно загружают в программу тысячи текстов и аудиофайлов. То есть мы сами учим нейросети – и чем дальше, тем быстрее. Эта геометрическая прогрессия со стопроцентной вероятностью приводит к тому, что нейросеть сможет выдавать то, что ранее могли делать только гении, которые рождаются раз в сто лет.

И будущее снова двояко. Либо настоящие человеческие шедевры обесцениваются, ведь ценно то, что редко, а этих шедевров будет много, либо они становятся ещё более ценны, так как на них стоит лейбл «человеческое». Но сможем ли мы в массе шедевров сохранить прежние, истинные, не спутаем ли с новыми? 

Ценностный конфликт состоит и в том, что человек в принципе стремится к надчеловеческому, божественному. Неужели это будет выдавать нам искусственный интеллект? То есть получается, что мы создали себе бога, а это – парадокс! 

С другой стороны вся эта история позволяет нам посмотреть на себя в зеркало и на более глубоком уровне осознать, кем мы являемся.

В целом перспективы туманные. А если погуглить, что такое эмерджентность, становится ещё туманнее.

Разумные эксперты не призывают к луддизму. Не стоит очередной цивилизационный вызов рядить в одежды дьявола, который открыл новую лазейку для искушений. С разумным отношением к проблеме человечество может сохраниться и даже победить. Но для этого потребуются усилия – и коренной пересмотр ценностных ориентиров в обществе: от парадигмы безудержного наслаждения и потребления к здравому смыслу и аккуратному обращению с новым «огнём человечества».

Или мы обуздаем ИИ и он, словно мощная тройка понесёт Русь как у Гоголя, либо уподобимся йеху, которых встретил Гулливер в стране добродетельных лошадей. Нет-нет, конечно, не такими отвратительными, как у Свифта, нет, мы будем доживать очень благородно выглядящим, но вымирающим видом. А если не вымирающим, то в изоляции. И искусственный разум сможет убедительно аргументировать нашу ничтожную роль: «Посмотрите, до чего они довели планету! Разве можно им доверять большие решения?».

Нейросети опережают человеческие усилия. Люди проигрывают, но ещё стоят во главе семьи, где маленький пока искусственный интеллект очень быстро подрастает.