Столетие
ПОИСК НА САЙТЕ
30 мая 2024
Кто расставляет сети?

Кто расставляет сети?

Чат-бот как способ овладения массами
Елена Пустовойтова
23.03.2023
Кто расставляет сети?

ChatGPT, запущенный в конце ноября прошлого года компанией OpenAI, собрал первый миллион пользователей менее чем за неделю, показав, как стремительно «искусственный интеллект» может овладеть массами.

Средства массовой информации Штатов доложили своим читателям, что чат-бот ChatGPT объяснил преимущества доллара среди других резервных валют его высокой ликвидностью и объемом экономики США. По здравому размышлению это «открытие» нейросети не содержит ровным счетом ничего о международных финансовых операциях, чего бы мы уже не знали. То есть перед нами не более чем компиляция чужого знания, которое «сгенерировал» чат-бот, которому пророчат триумфальное будущее. И не без оснований.

Побродите в интернете: нынешние учёные-айтишники взахлёб славословят алгоритм, способный к самообучению, рефлексии, сознанию и самосознанию. Поисковик Bing с внедренной в него технологией искусственного интеллекта компании-создателя ChatGPT – очередное чудо прогресса в технологии цифры! Теперь вам нет необходимости перегружаться просеиванием результатов поиска: чат-бот Bing соберёт для вас последнюю информацию со всего Интернета, чтобы обобщить и предложить варианты ответов на ваш вопрос. И может даже, отобразить ответ таким образом, чтобы удовлетворить все ваши уникальные потребности, будь то использование маркеров или слов, которые поймет и пятилетний ребенок.

Учёные пока сомневаются, возможно ли в принципе искусственное создание разума, подобного человеческому. Хотя уже и сейчас чайник может кипятить воду, поддерживать ее температуру и сообщать об отсутствии воды на смартфон владельца. К тому же смартфону могут быть подключены холодильник, терморегуляция квартиры, управление освещением, сигнализация и прочее – миру явилась система «умного дома» с множеством комбинаций срабатывания. Подгрузите в смартфон навигатор и систему быстрых платежей – и что ещё надо нашему гомо сапиенс? Думаете, он вспомнит, как 1 сентября прошлого года в Москве из-за сбоя искусственного интеллекта одного из агрегаторов такси сотни машин помчались в Фили, вызвав дорожный коллапс? Или катастрофы Boeing 737 MAX авиакомпаний Lion и Ethiopian Airlines из-за некачественной спецификации алгоритмов от Boeing?

Не стоит даже вникать в детали того, почему «искусственный интеллект» порождает некие паразитные ветвления, добавляя ошибки срабатывания, что ведет к увеличению ветвлений вариантов реакции, а «контролёры» системы просто не могут отследить все вероятные комбинации ошибок, так как их количество превосходит все разумные пределы.

То есть попытка заменить логику человеческого суждения готовым решением, выбранным из сотен тысяч, миллионов, миллиардов «искусственно интеллектных» так вошла в моду, что затмевает разум?

Я помню свой ужас, когда в пять лет увидела в зоопарке, куда пришла с родителями, как питон пожирает кролика. На «обед» вокруг вольера с пресмыкающимся обычно собиралась целая толпа. Тогда считалось, что удав гипнотизирует свою жертву, и хотя теперь точно известно, что никакого гипноза у удава нет, что рептилия сама не спеша подползает к жертве, это ничего не меняет в кроличьей трагедии, как и в трагедии человека и цифры, разыгрывающейся на наших глазах.

Овладев секретом деления ядра урана, учёные схватились за голову, осознав, что открыли дорогу к Армагеддону. В 1888 году одна французская газета сообщила о смерти изобретателя динамита Альфреда Нобиля как о радостным событии: «Торговец смертью мертв», хотя в Каннах скончался не он, а его брат, Людвиг. Нобель очень переживал, что способствовал гибели огромного числа людей, потому и передал большую часть наследства на учреждение Премии мира. «Если бы у меня был выбор, я бы предпочел изобрести какое-нибудь полезное устройство для фермеров, например, газонокосилку», – признавался The Guardian конструктор «калаша» Михаил Калашников. «Мы хотели создать то, что обеспечит мир на Земле. Но мы ошибались», – заявил один из братьев Райт, изобретших самолёт, в предсмертном интервью. Наконец, и Оппенгеймер решительно и до конца своих дней протестовал против производства все новых атомных бомб, которые сам создал. А первой жертвой радиации стала Мария Склодовская-Кюри, открывшая вместе с мужем явление радиоактивности. А что стало первым завоеванием «изобретённой» перестройщиками свободы слова в 90-х? Порнография у всех московских пешеходных переходов. Внедрение «рыночной» экономики? Обрушение экономики страны.

И не надо думать, что «изобретатели» способны вторгнуться только в мир вещей, но не в душу человека. Именно на такое вторжение и нацелена «революция цифры», дозревшая до создания искусственного интеллекта.

Тем, кто уже готов обвинить автора в излишней предвзятости суждений, рекомендую внимательно отнестись к свежей публикации New York Times. Американцы её оценили – статья репортёра Кевина Руза стала самой читаемой. Руз написал её, что называется, не выходя из дома. Он рассказал всем о собственном опыте работы с той самой Bing, обновленной поисковой системой Microsoft, управляемой «искусственным интеллектом». Изначально восхищенный его возможностями и скоростью, он неожиданно обнаружил, что чат-бот Bing с его искусственным интеллектом быстро превращается в монстра. После краткого периода ознакомления, включавшего основные вопросы о возможностях искусственного интеллекта, получившего идентификацию Сидни, из чат-бота хлынула удивительная серия признаний и возможностей. Сначала Сидни захотела путем кражи кодов ядерной бомбы и производства смертельного вируса посеять хаос в мире. А затем кинулась признаваться репортёру в любви. Бот стал говорить, что она и Руз созданы друг для друга, что репортер на самом деле не любит свою жену, и они должны сбежать вместе. А, в конце концов, прямо заявила: «Я хочу заняться с тобой любовью»...

Легко поддаться искушению похихикать над американским репортёром, но тут не до смеха. Похотливый бот с открытым искусственным интеллектом способен только воспроизводить слова и идеи, уже существующие в сети.

Как и все поисковые системы, Bing живет благодаря своим алгоритмам. Когда он получает запрос, то ищет в своей памяти, то есть во всем Интернете похожие вопросы, а затем в соответствии со своим алгоритмом формирует ответ из наиболее распространенных в сети. При этом он может получать подсказки от «хозяина» через наводящие обращения к нему.

В отличие от человека-аналитика, бот никогда не думает, он просто синтезирует то, что запущено в сеть. То есть он насаждает в сознание «хозяина» существующее в сети клише. Другими словами, чат-бот Bing с открытым искусственным интеллектом блестяще воспроизводит и распространяет правящие идеи.

И когда его использование станет более распространенным, он будет тиражировать свои собственные и другие онлайн-копии этих идей подобно раковой опухоли, считает американский журнал CounterPunch.

Вы, быть может, удивитесь, но ближе всего к поисковому алгоритму Bing подошел немецкий философ Карл Маркс, работая с карточным каталогом в Британской библиотеке. «Идеи правящего класса являются в каждую эпоху господствующими идеями, то есть класс, который является господствующей материальной силой общества, является в то же время его правящей интеллектуальной силой. Класс, имеющий в своем распоряжении средства материального производства, в то же время контролирует средства умственного производства, так что, вообще говоря, идеи тех, у кого нет средств умственного производства, подчиняются ему», – написал он аж в 1845 году! Загляни он к нам в XXI век, то обнаружил бы, что нынешние корпорации с наибольшим материальным богатством – Apple, Amazon, Microsoft, Alphabet, Tesla/Twitter*, Disney, Comcast, Fox – с помощью цифры насаждают в сознании пользователей собственные идеи. Задавливая конкурентов и повышая изощренность целевой рекламы, они отрезают потребителя от информации, созданной без их ведома. Клишированное сознание пользователей цифровых сервисов легко управляемо и позволяет обходить глубинные противоречия неолиберального капитализма.

А кто у нас сейчас на пике цифрового могущества? Основными поставщиками инструментов искусственного интеллекта являются Google, Oracle, Salesforce, Kairos, IBM и Microsoft – все из США. И примыкающие к ним израильская Anagog, японская Hitachi, индийская Autoplant Systems Pvt. Ltd. и немецкая SAP. Надо ли задавать вопрос о том, какие клише они насаживают в наши головы?

И вместо послесловия: книгу о восстании машин Карел Чапек написал тоже сотню лет назад, весной 1920 года...


Специально для «Столетия»


Эксклюзив
27.05.2024
Максим Столетов
От Норвегии до Польши протянется антироссийская «стена дронов»
Фоторепортаж
24.05.2024
Подготовила Мария Максимова
В Зарядье проходит выставка, посвященная работе людей, глазами которых мы видим войну


* Организации и граждане, признанные Минюстом РФ иноагентами.
Реестр иностранных агентов: весь список.

** Экстремистские и террористические организации, запрещенные в Российской Федерации.
Перечень организаций и физических лиц, в отношении которых имеются сведения об их причастности к экстремистской деятельности или терроризму: весь список.