Есть ли душа в искусственном интеллекте?

В последние годы происходит бурный рост нейросетей. Искусственный интеллект занимает все большее место в публикациях. Недавно появилось письмо деятелей интернет-индустрии, в котором они предупреждают об опасности завоевания нашей цивилизации искусственным интеллектом. Действительно ли он так опасен?

Се человек? 

Этот рисунок я сделал сам. Я никогда не учился рисовать. И также очень плохо фотографирую. Если быть точным, я заказал этот снимок нейросети Сбербанка ruDall-E Kandinsky 2.1. Сделал запрос, как написано на открывающей странице – сформулировал, что я хочу увидеть. А именно: «человек, создающий нейросеть». И через 20 секунд получил результат.

И что этот Kandinsky 2.1 хотел мне сказать? Что нет непереходимой границы между человеком и компьютером? Что нейросеть – это продолжение человеческих нейронов?

Википедия (https://ru.wikipedia.org/wiki/) предлагает такое объяснение: «нейросети – это математическая модель, а также её программное или аппаратное воплощение, построенная по принципу организации и функционирования биологических нервных сетей – сетей живого организма». А модель, как утверждает та же Википедия, «есть абстрактное представление реальности в какой-либо форме». А некоторые источники даже утверждают, что это «человеческий мозг в миниатюре».

Если мы согласимся с тем, что эти определения нейросети правильные, то получается следующее. Существует реальный объект, настоящий живой человек. Нейросеть создает в виртуальной реальности его модель, то есть некое абстрактное представление. И потом, благодаря своей функции визуализации (такая функция есть наряду со способностями классификации данных, их генерации и других), выдает нам свое представление о человеке. То есть при переходе из реала в виртуал и обратно происходит искажение того, что есть человек.

Художники-портретисты старались запечатлеть на полотнах реальные черты людей или выражение их внутренней сущности – души. Так писали практически все, за исключением, может быть, Иеронима Босха, чье творчество эксперты до сих пор объяснить толком не могут. Так же и фотографы, которым не приходится заниматься передачей черт лица и фигуры человека, сосредотачивают внимание на его внутреннем состоянии. Фотографы и художники создают не человека, а его образ. Образ в искусстве, как писал Гегель, «освобождает явление от несоответствующих его истинному понятию черт, от тех случайных и внешних особенностей, которыми оно было искажено в реальной жизни, создает идеал». Об этом же писал Александр Блок: «Сотри случайные черты, и ты увидишь – мир прекрасен». Прекрасен потому, что его создал Бог. И так же прекрасна созданная Им душа человеческая. Может ли это передать «математическая модель», она же нейросеть? Увы, не может. Поэтому рисунки, создаваемые искусственным интеллектом бездушные.

Некоторые авторы, пропагандирующие нейросети, утверждают (все это опубликовано в интернете), что «если загрузить в нейросеть собрания сочинений мировых литературных классиков, то на выходе она сможет написать собственный текст в стиле Шекспира». Это либо обман, либо реклама, что одно от другого не далеко. Ромео и Джульетта любили друг друга, и любовь была дана им от Бога. Шекспир описал это своим стилем. А стиль – это человек, его душа, как сказал французский естествоиспытатель и писатель Бюффон. Следовательно, стиль – это тоже от Бога. А что есть в нейросети, в математической модели? Она выдает набор формул и чисел, которые преобразуются в ответ. При этом он не конкретный, а скорее показывающий вероятность. Например, если для изображения мужчины установлено значение 0, а женщины – 1, то результат 0,67 будет означать «скорее всего, это женщина». Это любовь? Это Шекспир? Нет уж, такой Шекспир нам не нужен.

Итак, мы выяснили, что нейросеть – это математическая модель реальности. Но она реальностью быть никак не может, потому что не дает о ней полного представления. Именно об этом, об односторонности научного познания мира, познания без веры в Бога, говорил один из основоположников советской космонавтики академик Борис Раушенбах.

Однако сейчас очевиден взрывной рост популярности нейросетей. Как утверждают аналитики компании Tele2, в России количество пользователей нейросетей выросло с августа прошлого года по февраль 2023-го в пять раз (точные цифры не приводятся, их пока обнаружить не удалось). Обследовались доступные и бесплатные площадки, где искусственный интеллект создает изображения, музыку и тексты.

Среди них – нейросеть Dream, которая создает «арт» в определенном стиле на основе текстового запроса, Stable Diffusion, генерирующая картинки на основе текста или другого изображения, или созданная Сбером ruDALL-E, которая генерирует изображение по запросу на русском языке.

Сети для генерации текста стали наиболее популярными, так как именно текст чаще всего встречается в запросах среднего пользователя, будь то переписка, написание статей и постов, работа с документацией. Не так давно один из топ-менеджеров «Яндекса» рассказывал, что если раньше его подчиненные писали доклад по заданной теме в течение недели, то теперь его приносят через 10 минут. Раньше-то они в библиотеке почитали бы литературу или разные источники в интернете погуглили. А теперь все это делает за них искусственный интеллект. Скорее всего, за 10 минут сотрудники не только не прочитали, но и не оценили «творчество» нейросети. Возможно, тот топ-менеджер принимал какие-то решения на основании представленного ему доклада.

Но можно ли доверять текстам, написанным искусственным интеллектом – об этом подробно рассказал член-корреспондент РАН Георгий Клейнер. Он объясняет, почему не должно быть (со стороны человека) бесконтрольного распространения результатов работы искусственного интеллекта.

Во всем мире рынок нейросетей растет примерно с 2016 года. К 2023 году он увеличился в шесть раз и составил 277,83 млрд долларов США. А к 2029 году он увеличится до 655,83 млрд. Это оценки экспертов компании Fortune Business Insights.

28 марта этого года на сайте организации Future of Life появилось письмо с призывом остановить создание и разработку нейросетей. Его подписали около тысячи деятелей интернет-индустрии. В том числе глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк. В письме были поставлены такие вопросы: «Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» И предлагалось остановить работу над нейросетями, вплоть до государственного моратория.

Скажем прямо, вопросы не новые. Об этом писал в пьесе «Бунт машин» Алексей Толстой в 1924-м, почти сто лет назад. Он лишь чуть изменил написанную ранее пьесу Карела Чапека «R.U.R.». Там все это было. И у других писателей-фантастов тоже. Как говорил российский премьер Виктор Черномырдин, «никогда такого не было, и вдруг опять». Почему?

Потому что едва прошло чуть больше недели с публикации того письма, как Илон Маск основал компанию X.AI. Она будет заниматься развитием искусственного интеллекта, о чем свидетельствуют закупки соответствующего оборудования и поиск специалистов.

Есть красивые слова о сохранении цивилизации и угрожающей опасности бунта машин. А есть рынок на 277,83 миллиарда долларов.

А вы думали, зачем Сбербанку Kandinsky 2.1? Это же не кредит, не ипотека. Это деньги, и не маленькие.

И, стало быть, письмо – это всего лишь обыкновенная борьба за обладание рынком. Под лозунгом моратория можно не допускать на этот рынок конкурентов. А для потребителей это тоже хорошая приманка, потому что известно: запретный плод сладок, и тот же мораторий привлечет новые миллионы потребителей, и вырастет спрос, а за ним поднимутся и цены. В общем, ничего личного, только бизнес.

Осталось разобраться, чем торгуют на рынке искусственного интеллекта. Сейчас уже мало кто помнит, что 25-30 лет назад каждый компьютер жил отдельно, на нем можно было печатать тексты, составлять таблицы, расчеты, отчеты и так далее. И у него была своя память, но тексты надо было записывать на дискеты или на флешки и переносить в другой компьютер. Потом появился интернет, и нужда в дискетах и флешках отпала. И затем стали возникать сети, объединявшие компьютеры, электронная почта и огромные хранилища данных – big data. В мире сейчас действуют больше 7 тысяч таких хранилищ. В 2022 году объем всех данных, накопленных человечеством, составлял 97 зеттабайт. Один зеттабайт – это миллиард терабайт. Если весь объем существующих сегодня данных запаковать на жесткие диски объемом в терабайт каждый и поставить их один на другой, то общая высота полученной башни будет в два раза больше, чем расстояние от Земли до Луны. К 2025 году будет накоплено 180 зеттабайт информации.

Что делать с этими большими данными? Существуют поисковые системы «Яндекс», Google, Mail и другие, которыми мы все сегодня пользуемся. Но используем мы очень небольшую часть базы этих данных. Если «Яндекс» пишет, что по вашему запросу есть 20 миллионов результатов, вряд ли вы будете все их смотреть, ограничитесь десятком-другим. Но поскольку на просторах интернета есть все что нужно и что не нужно (мы сейчас не говорим о криминальной сети darknet), то нам приходится все же самим как-то оценивать полученную информацию, отделять достоверные или проверенные данные от неточных, фейковых.

И вот, начиная с 2016 года, эту работу за нас стали выполнять нейросети. Они в состоянии в короткое время проанализировать все базы данных, выбрать из них то, что соответствует заданной в запросе теме, и выдают вам результат. Но результат чисто формальный, без оценки качества, содержания и смысла. И соответственно появилась цена этой работы, напомним, в этом году она составляет 277,83 млрд долларов.

Стали появляться рассуждения, иногда просто истерические: вот сейчас искусственный интеллект оставит без работы художников, дизайнеров, журналистов и вообще всех, кто работает с информацией. В конце XVIII – начале XIX веков в Англии луддиты ломали машины, которые, по их мнению, отнимали у них работу. Но как-то обошлось. И на всех этапах технического прогресса, при появлении новых технологических укладов, люди опасались, что машины, новая техника оставят их без работы. Но история экономики показывает, что нет прямой связи между внедрением новых технологий и ростом безработицы. Если она и возникает, то по другим причинам, и не при смене технологических укладов, а внутри них.

До сих пор машины вводились в производство для того, чтобы заменить тяжелый ручной труд человека, с одной стороны, и повысить производительность труда с другой. При этом труд становился более квалифицированным и более высоко оплачивался. Разумеется, остается какая-то доля ручного труда, и она еще долго будет сохраняться.

Опаснее другое. И эта опасность не в нейросетях, не в искусственном интеллекте, а в нас самих. Если мы будем слепо, бездумно пользоваться результатами их работы, если мы не будем эти результаты контролировать, мы перестанем думать. Наш разум заменит компьютер. Мы будем ленивыми и нелюбопытными, мы разучимся сравнивать и выбирать.

Мы будем деградировать, если пойдем по тому пути, по которому прошел студент Высшей школы экономики, подложивший продукт чата GTP вместо собственной дипломной работы. Последствия такого состояния непредсказуемы.

Да, возможны случаи, когда человеку необходимо использовать результаты работы нейросети. Но нельзя их принимать за истину. Надо относиться к ним с изрядной долей сомнения. Как говорил французский писатель Антуан Леонард Тома, «я сомневаюсь, следовательно, я мыслю и, следовательно, я есмь».

Упрощенный вариант этого постулата («Я мыслю, следовательно, существую») приписывают философу Рене Декарту. Если я не сомневаюсь, если я всегда прав, я ухожу от Бога. Здесь ключевое слово – «я сомневаюсь». Потому что, как писал Блаженный Августин, если мы сомневаемся, мы заглядываем в свою душу, и мы узнаем в ней образ Бога, который для нас является единственной истиной.

Александр Трушин