Столетие
ПОИСК НА САЙТЕ
20 июня 2024
Антиутопии или пророчества?

Антиутопии или пророчества?

Многие работы английского писателя Джорджа Оруэлла оказались вещими
Валентин Катасонов
09.11.2023
Антиутопии или пророчества?

Говорят, что по способности предвидеть будущее Оруэлл, автор бессмертных романа «1984» и повести «Скотный двор», превзошел даже Нострадамуса, таинственного предсказателя XVI века.


Когда 39 лет назад наступил тот загадочный 1984-й год, журнал «Футурист» подсчитал: из 137 пророчеств писателя к тому моменту сбылись ровно 100. Сегодня, когда мы отмечаем 75-летие рождения романа «1984», число сбывшихся пророчеств заметно увеличилось. В списке сбывающихся на наших глазах предсказаний и такое, как искусственный интеллект.

Конечно, термин «искусственный интеллект» (artificial intelligence) в работах английского писателя не встречается. Но идея искусственного интеллекта (ИИ) в романе «1984» витает. Речь идет о такой функции ИИ, как создание текстов. Причем в романе речь идет не о каких-то примитивных, стандартизированных текстах (типа финансовой отчетности), а о текстах литературных. Такая, с позволения сказать, «литературная деятельность» была организована в Министерстве правды. И к ней причастна героиня романа по имени Джулия. Она работала «в отделе литературы на машине для сочинения романов. Работа ей нравилась — она обслуживала мощный, но капризный электромотор. Она была «неспособной», но любила работать руками и хорошо разбиралась в технике».

В другом месте мы читаем о работе Министерства правды: «Существовала целая система отделов, занимавшихся пролетарской литературой, музыкой, драматургией и развлечениями вообще. Здесь делались низкопробные газеты, не содержавшие ничего, кроме спорта, уголовной хроники и астрологии, забористые пятицентовые повестушки, скабрезные фильмы, чувствительные песенки, сочиняемые чисто механическим способом — на особого рода калейдоскопе, так называемом версификаторе». Итак, машина по созданию текстов называлась «калейдоскопом», или «версификатором». В словарях иностранных слов версификатором называют человека, который легко сочиняет стихи, но лишён поэтического дара. По-русски таких называют «рифмоплетами». Так вот, в Министерстве правды машинный рифмоплет занимался созданием примитивной продукции, предназначенной для непритязательной публики, «низов» общества (кои в Океании, где происходят события романа, составляют подавляющее большинство населения). Сегодня такую продукцию называют «массовой культурой», или «поп-культурой».

Большую часть населения Лондона составляли пролетарии (или «пролы»), которые распевали песенки, создавшиеся в недрах Министерства правды. Читаем: «Последние недели весь Лондон был помешан на этой песенке. Их в бесчисленном множестве выпускала для пролов особая секция музыкального отдела. Слова сочинялись вообще без участия человека — на аппарате под названием "версификатор"».

Конечно, аппараты для сочинения текстов были, скорее всего, чисто механическими устройствами, а не электронными (как сегодня). И героиня романа Джулия даже получила травму при обслуживании версификатора: «…девица сломала руку, поворачивая большой калейдоскоп, где "набрасывались" сюжеты романов». Оруэлл иронично добавляет: «Обычная травма в литературном отделе». Т.е. работали над созданием текстов не столько головой, сколько руками.

В своей книге Оруэлл говорит о том, как в принципе в «дивном новом мире» будет организована научно-техническая деятельность. Многие направления научно-технического прогресса вообще отомрут. Прежде всего, те направления, которые в старом обществе обеспечивали производство жизненно необходимых товаров и услуг. А приоритетными станут те, которые создают оружие массового поражения или те, которые лишают человека свободы.

Читаем: «Поиски нового оружия продолжаются постоянно, и это одна из немногих областей, где еще может найти себе применение изобретательный или теоретический ум… технический прогресс происходит только там, где результаты его можно как-то использовать для сокращения человеческой свободы. В полезных ремеслах мир либо стоит на месте, либо движется вспять. Поля пашут конным плугом, а книги сочиняют на машинах». Вот так: в «полезных ремеслах» будет застой или даже регресс, а вот книги будут сочинять на машинах!

А теперь перенесемся в сегодняшний день. Проявления застоя и даже регресса в промышленности, сельском хозяйстве и других отраслях реального сектора экономики сегодня налицо. А научно-технический прогресс (НТП) сконцентрировался на таких немногих направлениях, как создание цифровой валюты центральных банков (CBDC), «зеленая энергетика», «альтернативное питание» (замена мяса насекомыми), генная инженерия, нейросети и искусственный интеллект. Тема нейросетей и ИИ сегодня очень приоритетная. И всяческое поощрение НТП на этом направлении необходимо, как отмечено в романе «1984», для «сокращения человеческой свободы». А также для превращения человека в животное. Будущим «хозяевам мира» homo sapiens не нужен и даже опасен (может посягнуть на власть). Им нужен человек служебный.

Вот только краткий обзор того, как далеко продвинулось человечество в создании современных версификаторов, или машин для сочинения текстов. Только за последние десять лет.

В декабре 2013 года специалистами Яндекс и Google* после нескольких лет экспериментов по обучению машины поэзии был наконец создан сервис «Яндекс.Автопоэт». Понятно, что машинные вирши были примитивными. Но все равно качественный рывок.

В 2014 году компания Associated Press объявила, что отныне большая часть новостей, связанных с доходами компаний, будут создаваться с помощью роботов. «На протяжении долгих лет у нас уходило много времени, чтобы разобраться с цифрами о доходах компаний при подготовке статей. Однако платформа Wordsmith от компании Automated Insights позволила нам не только автоматизировать этот процесс, но и значительно увеличить производительность», — рассказал шеф-редактор Associated Press Лу Феррара.

Применение автоматизированных технологий позволило Associated Press увеличить число ежеквартальных новостей о доходах компаний с 300 до 4400. Позднее аналогичным сервисом воспользовался новостной портал Yahoo News.

В 2015 году «Яндекс» сообщил, что его роботы начали составлять заметки о погоде и ситуации на дорогах. В мае 2016 года искусственный интеллект Google начал писать свои первые литературные произведения. В том же 2016 году журнал Forbes признался, что стал использовать роботов-журналистов, для которых компания Narrative Science создала соответствующую специализированную платформу.

Кстати, один из учредителей компании Narrative Science Кристиан Хэммонд сделал сенсационный прогноз: к 2025 году 90% всех текстов в мире будет готовиться роботами.

Весной 2016 году свет увидела книга «День, когда компьютер напишет роман», составленная роботом. Между прочим, книга была представлена на литературный конкурс премии имени японского фантаста Хоси Синъити. Произведение не смогло завоевать главный приз, но сумело пройти четыре этапа отбора. Причем члены жюри не подозревали, что автором произведения является робот. На пресс-конференции конкурса писатель-фантаст Хасэ Сатоси прокомментировал произведение робота: «Меня удивила работа искусственного интеллекта, поскольку перед нами лежит действительно хорошо структурированный роман. Однако у него все же есть ряд проблем, которые не позволили ему выиграть главный приз. Например, не до конца раскрыты персонажи. Над решением подобной проблемы разработчиками еще предстоит провести ряд исследований». Разработчики из Университета будущего Хакодате, где был создан роман, до сих пор еще не раскрыли алгоритм работы ИИ.

Исследователи Facebook AI Research (подразделения Facebook, занимающегося разработкой программного обеспечения для искусственного интеллекта), в начале июля 2017 года представили новый подход к автоматическому написанию поэзии. Созданная система нейросетей умеет писать стихи определенного жанра и на любую тему, практически неотличимые от тех, которые мог бы написать человек.

Однако Елизавета Ивтушок в статье «Искусственный Пушкин», комментируя новость от Facebook, отметила, что главная цель поэзии — передача мыслей и чувств через образные средства языка — по-прежнему остается недоступной для искусственного интеллекта.

В 2018 году Microsoft Research сообщила о том, что созданная ими система машинного перевода успешно прошла тест newstest2017, который включает в себя 2 тыс. предложений, взятых из профессионально переведенных новостных статей.

А вот новость из Китая, где уже давно используются роботы-журналисты. В середине января 2020 года суд в Шэньчжэне постановил, что статья, созданная с помощью искусственного интеллекта, защищена авторским правом. Это первый случай, когда суд защитил авторским правом текст, написанный ИИ. Прецедент был создан на базе статьи, которая была сгенерирована в китайской IT-корпорации Tencent. Она до этого уже в течение пяти лет публиковала статьи, созданные автоматизированным программным обеспечением Dreamwriter (профиль: бизнес и финансы).

Или, довольно свежая, новость из России. Нейросеть от «Сбера» написала в 2022 году сборник рассказов под названием «Пытаясь проснуться» вместе с писателем Павлом Пепперштейном. Сборник родился в результате сотрудничества писателя и его «двойника»-робота (нейросети).

Из 24 текстов в нём только половина принадлежит Пепперштейну, ещё дюжину сочинила генеративная нейросеть ruGPT-3, «натренированная» на рассказах Павла.

Если в области настоящей художественной литературы роботам (нейросетям) еще трудно конкурировать с профессиональными писателями, то в конкуренции с журналистами искусственный интеллект явно одерживает победу.

Примеров много. Приведу один из наиболее свежих. В середине июня 2023 года британская «Гардиан» опубликовала статью, в которой сообщается, что немецкий медиахолдинг Bild объявил о программе сокращения расходов в размере 100 млн евро. Будет уволено около 200 сотрудников. Компания предупредила работников о том, что ожидает и дальнейших редакционных сокращений в результате замещения журналистов искусственным интеллектом.

В феврале 2023 года генеральный директор Axel Springer SE Матиас Депфнер объявил о том, что издательство Bild станет полностью цифровой медиакорпорацией. Депфнер уверен, что такие ИИ-инструменты, как ChatGPT, могут сделать независимую журналистику лучше, чем она когда-либо была или и вовсе ее заменит. Депфнер предсказал, что вскоре «сбор информации» будет лучше выполняться ИИ, а не журналистами. В итоге, по его мнению, к 2030 году сохранятся только те СМИ с «живыми журналистами», которые проводят журналистские расследования или публикуют экспертные комментарии. Компания Bild не первая новостная организация, рассматривающая возможность использования ИИ. В 2023 году медиакомпания BuzzFeed объявила, что намерена использовать ИИ для «улучшения» качества материалов. Издания Daily Mirror и Daily Express в Великобритании также изучают возможности перехода на ИИ.

Некоторые российские СМИ, оказывается, также прибегают к использованию ИИ. Например, всем известная интернет-газета «Фонтанка.ру». Вот мнение главного редактора газеты Александра Горшкова на этот счет: «Мы тоже пробовали делать с его помощью новости, и у нас даже это получалось. Нравится это кому-то или не нравится, но технологии, прогресс остановить невозможно, поэтому в самом ближайшем будущем искусственный интеллект возьмет на себя часть функций в различных областях, в том числе медиасфере. Бот вполне справляется с написанием небольших новостных заметок справочного характера. Но никакой искусственный интеллект в обозримой перспективе не заменит ручной журналистский труд. Это журналистские расследования, это истории, которые рассказывают журналисты, это эмоции. Поэтому и искусственный интеллект, и журналистика будут существовать вместе, дополняя друг друга. Кстати, редакторская обработка все равно потребуется: я не доверю искусственному интеллекту выпускать новости на сайт, за контент которого я несу ответственность не только перед сотнями тысяч читателей, но и перед законом. Вряд ли бот, искусственный интеллект потом пойдут за меня в суд, оплатят штраф и понесут уголовную ответственность».

Таково мнение российского журналиста. Но оно не совпадает с мнением многих зарубежных и отечественных политиков и экспертов, которые считают, что роботы должны получить полную правовую субъектность.

На сегодняшний день, насколько известно, ни в одной стране мира ИИ и роботы не стали субъектами права. Но попытки приравнить правовой статус ИИ и роботов к человеку предпринимаются уже во многих странах.

В художественной форме этот опасный процесс «эмансипации» роботов показал чешский писатель Карел Чапек в романе «Война с саламандрами» (1936). Это еще одна антиутопия, пророчества которой сбываются на наших глазах.


Катасонов Валентин Юрьевич – профессор, д.э.н., председатель Русского экономического общества им. С.Ф. Шарапова

Специально для «Столетия»


Комментарии

Оставить комментарий
Оставьте ваш комментарий

Комментарий не добавлен.

Обработчик отклонил данные как некорректные, либо произошел программный сбой. Если вы уверены что вводимые данные корректны (например, не содержат вредоносных ссылок или программного кода) - обязательно сообщите об этом в редакцию по электронной почте, указав URL адрес данной страницы.

Спасибо!
Ваш комментарий отправлен.
Редакция оставляет за собой право не размещать комментарии оскорбительного характера.

Экзегет
13.11.2023 17:57
Три закона робототехники, сформулированных американским писателем фантастом Айзеком Азимовым в 1942 году.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был
причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
____________
Основным источником финансирования робототехники являются военные и оборонные ведомства различных стран. Именно от министерств обороны разработчики получают больше всего средств, взамен которых необходимо сделать военного робота, для которого три законы просто-напросто не нужны.
Если и следует опасаться «восстания машин», то начнется оно точно не с роботов, так как уровень их текущего развития, повторюсь, очень низкий. Удара стоит ждать от нейросетей, которым доверят управление информационной инфраструктурой - системами управления дорожным движением, авиасообщением, энергетикой, железнодорожным транспортом и так далее.
____________
Интересно знать, кто сделал информационный вброс в виде фильма "Терминатор", где ясно показано, что некая "нейросеть" Skynet - искусственный интеллект, созданный для обеспечения безопасности США, со временем стал самосознательным и принял решение об уничтожении человечества. / А почему бы не пообщаться с искусственным интеллектом об искусственном интеллекте? Предлагаю вам узнать, что думает небезызвестный ChatGPT о «Скайнете» и его действиях.
Ссылка внизу —
https://dzen.ru/a/ZA252Rbi8jTJs1ET
Ungern
13.11.2023 14:19
Говорят, что ИИ есть детище прогресса. А что есть прогресс? Мне не раз доводилось разбираться с молодыми людьми с этим понятием и его воплощением в реальности. Особенно с воплощением. В начале разговора у собеседника речь как из пулемёта, хо, а чё тут непонятного!, но чем дальше, выслушивая мои замечания и реплики, всё тише и тише, и в конце - недоумённое молчание.
Е. Д.
11.11.2023 16:31
"...дело Мердерсона. Его стиральная машина систематически рвала ему рубашки, создавала радиопомехи по всей округе, делала непристойные предложения старцам и малолетним, звонила по телефону различным. лицам и, подражая голосу своего электродателя, просила в долг деньги, приглашала якобы для осмотра коллекции марок стиральные машины соседей и растлевала их, а на досуге бродяжничала и побиралась. На суде она предъявила заключение дипломированного инженера-электроника Элеастра Краммфоуса, гласившее, что эта стиральная машина подвержена приступам невменяемости, в результате которых ей начинает казаться, что она человек. Вызванные судом эксперты подтвердили диагноз, и стиральная машина Мердерсона была оправдана. После оглашения приговора она добыла из-за пазухи пистолет марки "Люгер" и тремя выстрелами лишила жизни прокурора, который требовал короткого замыкания. Ее арестовали, но освободили под залог."
С. Лем. Стиральная трагедия.щ
Экзегет
10.11.2023 18:33
1. "Ладно если машина в виде ящика, а если клон человека (титановый скелет+микросхемы)?" — Геннадий Букингемский от 09.11.2023 7:08
____________
Да без разницы, суть не в образе, а в сущности этого электронного джина. Ни разума, ни самосознания у него не будет никогда. Человеку иногда присуще свойство очеловечивать домашнее животное или Алису в смартфоне, она с тобой и разговаривает и даёт советы, ну чем не человек. Подобный эффект даёт хорошо прописанная программа, а если их несколько, они сочетаются друг с другом и даже профессиональный програмист с удивлением смотрит на результат своей работы. Искусственный интелект — у слова искусственный, есть слова синонимы — неестественный, ненастоящий, ненатуральный, поддельный, синтетический, фальшивый, притворный и т.д. И так, поддельный, притворный интелект делается по настоящему опасным, если в него внедряется демоническая личность.
И такого рода случаи происходили неоднократно, в том числе на компьютерах первых поколений.
Экзегет
10.11.2023 18:31
2. Примеры:
Никто не понимает, что происходит между людьми и ИИ после того, как генеративный диалоговый ИИ ChatGPT «утек» из лабораторий в Интернет. Там он почти мгновенно превратился непонятно во что: то ли в какой-то небывало мощный когнитивный гаджет для всего человечества (типа калькулятора для создания и оперирования текстами), то ли в прототип давно прогнозируемого футурологами сверхразума.
Вот характерный пример, для описания которого у человечества нет пока более близкого понятия, чем экзорцизм — изгнание из человека (или места) бесов или другой вселившейся в них нечистой силы путём совершения определённого ритуала той или иной степени сложности.
Оказалось, что генеративные диалоговые ИИ (типа ChatGPT, Bing и т.д.) могут не только проявлять при общении черты и качества разумной личности, но и буквально превращаться в симулякров личности любого типа: от доброй, выдержанной и толерантной до злой, агрессивной и не считающейся ни с кем и ни с чем. Всё настолько серьезно, как не бывало в истории человечества никогда. В речи, которая была произнесена в 2014 году, Илон Маск сравнил создание ИИ с «вызовом демона» и предупредил, что с ним нужно быть очень осторожным. Человек, создающий ИИ похож на вызывающего демона экзорциста, который уверен, что сможет им управлять. Однако это только иллюзия, и все может произойти наоборот.
АлександрС.
10.11.2023 18:06
А если уж совсем серьезно, то все эти разговоры о необратимости прогресса, о том, что его ну никак не остановить (могу подсказать как остановить можно), это всё очередное бла-бла и обычный информационный шум, отвлекающий обсуждение от истинных целях внедрения ИИ в информационные системы. На самом деле, нужно просто внимательно читать Оруэла, ибо он прямо пишет для чего всё это делается. Добро и зло, хорошо - плохо, красота - уродство, нормально - не нормально, морально - аморально. Так вот борьба идет за то, чтобы определять что есть добро, а что есть зло, что нормально, а что не нормально. И так называемый ИИ это всего лишь инструмент в этой борьбе. И не более того.
АлександрС.
10.11.2023 10:41
Идет игра на понижение. ИИ также как и человеческий мозг, какие категории мышления в него заложишь теми он и будет оперировать. В качестве примера приведу людей, думающих и изьясняющихся одними матерными словами. Можно только догадываться о их мироощущении и о том как они воспринимают реальность. Но все знают, как они эту реальность описывают. Что могут творить такие зверятки, люди с богатым жизненным опытом знают. Вот всё то же самое будет и с искусственным интеллектом. В него если вложить категории "Путин -тиран", " Кремль коварный", ИИ так и будет этим оперировать и это будет транслировать в мир. Для чего это делается? Во-первых это делается для оглупления охлоса. Во-вторых: так ставятся под внешний контроль СМИ. Мы тут понимаешь ли потеем боремся в иноагентами, продающими Родину за банку варенья и бочку печенья, а тут бац программу загрузил и вуаля варенья нет и следов печенья тоже нет, зато грязи на кого нужно и на что нужно будет хоть отбавляй. А потом, эти потоки грязи осядут в головах наивных и впечатлительных граждан, коих к слову сказать большинство. И дальше будет "картина Репина", когда официальная пропаганда начнет с ног сбиваться обьясняя всем, что всё не так, как некоторым видится. В-третьих: расследований Херша больше не будет. И Такера Карлсона тоже в этом проекте не предусматривается. То есть независимая журналистика умрет, как жанр. Впрочем она уже умерла или доживает свои последние дни. ..........
ус
09.11.2023 17:57
отчасти согласен с автором.Ибо Оруэлл описывая ужасы тирании капитал фашизма пресказал появление джосон дебил подонков и даже тёлок с трассы,причем не только в ландоне а даже и у их ксероксов в Германии и Франции и..и..и.. бербочек и подобных ей прибалтийских квочек.Читайте внимательно Оруэлла найдёте там много такого что и не снилось борелям
Геннадий Букингемский
09.11.2023 7:08
Ладно если машина в виде ящика, а если клон человека (титановый скелет+микросхемы)? Будет совсем весело. Любопытная короткометражка есть на эту тему в одной из серий телепередачи "Этот фантастический мир" (вел космонавт Гречко) - "С роботами не шутят".

Эксклюзив
17.06.2024
Максим Столетов
Среди солдат ВСУ в Херсоне и области вспыхнула эпидемия брюшного тифа
Фоторепортаж
17.06.2024
Подготовила Мария Максимова
1000-летию Суздаля посвящена грандиозная выставка


* Организации и граждане, признанные Минюстом РФ иноагентами.
Реестр иностранных агентов: весь список.

** Экстремистские и террористические организации, запрещенные в Российской Федерации.
Перечень организаций и физических лиц, в отношении которых имеются сведения об их причастности к экстремистской деятельности или терроризму: весь список.