А.А. Прасол
Вы сказали
«искусственный интеллект»?
Феномен двуликого Януса
новейшей технологии

А.А. Прасол
Вы сказали
«искусственный интеллект»?
Феномен двуликого Януса
новейшей технологии
ТЕХНОСФЕРА
Москва
2024

Издано при финансовой поддержке
Министерства цифровогоразвития, связи
и массовых коммуникаций Российской Федерации
УДК 004.8+087.6
ББК 32.813
П70
П70 Прасол А.А.
Вы сказали «искусственный интеллект»?
Феномен двуликого Януса новейшей технологии
Москва: ТЕХНОСФЕРА, 2024. - 144 с. ISBN 978-5-94836-687-6
Сегодня нет, пожалуй, технологии, которая привлекала бы к себе
более пристальное внимание, чем искусственный интеллект. Машин¬
ный разум способен производить вычисления с недостижимой скоро¬
стью и оперировать большими данными, сравнимыми с содержанием
сотен томов энциклопедий. Нейросеть соревнуется в мастерстве с
профессиональными художниками и писателями, робототехнические
системы, вооруженные искусственным интеллектом, способны созда¬
вать подобные себе механизмы. И все же самый производительный
компьютер не в состоянии соревноваться с человеческим мозгом.
Недавнее открытие российских ученых в области нейроморфных
компьютеров расширило возможности вычислительной техники.
А достигнут ли машины уровень мышления человека?
На этот и многие другие вопросы дается ответ в книге «Вы сказали
“искусственный интеллект”?» Автор не случайно написал ее сразу
после выхода в свет книги «Вы сказали “роботы”?», потому что робото¬
техника и искусственный интеллект очень тесно связаны друг с другом.
Для широкого круга читателей.
УДК 004.8+087.6
ББК 32.813
© Прасол А.А., 2024
© АО «РИЦ «ТЕХНОСФЕРА», оригинал-макет, оформление, 2024
ISBN 978-5-94836-687-6

СОДЕРЖАНИЕ
Вступление	5
Глава 1. Разум «из пробирки»	16
Глава 2. На плечах гигантов	28
Глава 3. Вселенная в наладоннике: и швец, и жнец,
и на дуде игрец	40
Глава 4. То, что доктор прописал	57
Глава 5. Цифровая среда, имитирующая производство	68
Глава 6. Сами едут, сами правят	82
Глава 7. Воинство без красной кнопки	97
Глава 8. Всеобъемлющая помощь или бунт машин.
Что предвидят ученые?	108
Глава 9. О чем предупреждал Джонатан Свифт?	120
Глава 10. Чуда творцы из Сарова	128
Заключение	141

Разработка полноценного
искусственного интеллекта
может означать конец
человеческой расы... Он будет
развиваться сам по себе
и перепроектировать себя со
все возрастающей скоростью.
Люди, ограниченные медленной
биологической эволюцией, не
смогут конкурировать и будут
просто вытеснены.
Стивен Хокинг

ВСТУПЛЕНИЕ
Увидеть невидимое, объять необъятное,
или Две почти детективные истории
вместо обычного вступления
Искусственный интеллект — помощник человека во многих сфе¬
рах. Основы возникновения машинного разума. Открытое письмо
ученых и предпринимателей об опасности дальнейших разработок
искусственного интеллекта. Чем стал опасен ИИ? Есть ли ему
альтернатива в будущем?
Российская Федерация сегодня переживает один из интересней¬
ших периодов. При всех сложных внешних и внутренних вызовах
невиданными ранее темпами идет техническое и технологическое
переоснащение промышленности, фундаментальная наука тесно
смыкается с прикладной, чтобы развивать наиболее приоритет¬
ные проекты. Робототехника и искусственный интеллект должны
не просто придать новый импульс развитию, но и справиться с
нехваткой рабочих рук. О широкомасштабном внедрении робо¬
тов в промышленности, на транспорте и в быту мы уже писали в
книге «Вы сказали “роботы”?». Сегодня мы поговорим о другом
важнейшем направлении — совершенствовании технологий,
связанных с использованием искусственного интеллекта или,
как его именуют в англоязычном мире, AI (artificial intelligence).
В России принята государственная программа развития
технологий искусственного интеллекта на период до 2030 года.
Согласно Указу Президента РФ от 10 октября 2019 г. № 490 «О раз¬
витии искусственного интеллекта в Российской Федерации»
предполагается обеспечить ускоренное развитие искусственного
интеллекта, проведение научных исследований, повышение до¬
ступности информации и вычислительных ресурсов для поль¬
зователей, совершенствование системы подготовки кадров в
этой области. Решить эти задачи призван национальный проект,
входящий в национальную программу «Цифровая экономика
Российской Федерации».

6 Вступление
Книга об искусственном интеллекте, которую вы держите в
руках, стала логическим продолжением книги «Вы сказали “ро¬
боты”?», в которой были рассмотрены возможности развития
роботов и робототехнических систем. Эта последовательность
неслучайна, ведь робототехника нуждается в мощных и про¬
изводительных «мозгах», способных выполнять вычисления
буквально с космическими скоростями. И чем сложнее робот,
тем совершеннее должны быть программы, управляющие им.
Машинный разум, как еще называют ИИ, достиг такой степени
развития, что в состоянии в некоторых случаях превосходить
способности живого человека. Уже сегодня некоторые нейро¬
сети вполне квалифицированно заменяют человека, создавая
произведения искусства и учебные пособия, пишут музыку и
рисуют картины. Искусственный разум бдительно следит за
технологическими процессами в агрессивной или недоступной
среде.
Но при этом и искусственный интеллект не может суще¬
ствовать без физических носителей — хранилищ данных, про¬
изводительных вычислительных комплексов, сетей передачи
данных и Интернета вещей. В робототехнических системах объ¬
ектом применения выработанных машинным разумом решений
становятся микропроцессорные устройства, многочисленные
датчики и манипуляторы.
Читатели, наверное, знают великолепный роман одного из
наиболее талантливых писателей-фантастов Александра Беляева
«Голова профессора Доуэля». В нем очень точно показано, что
происходит, если человеческий мозг лишается тела. Вот почему
мы считаем, что и робототехнические устройства, и нейросети —
две стороны одной медали. И очень часто их надо рассматривать
в этом необычном двуединстве.
В предыдущей книге мы проанализировали большое число
сложных робототехнических систем, от промышленных роботов
до человекоподобных помощников, имитирующих действия
живого человека, и сравнили различные управляющие системы,
заложенные в роботов. Обнаружили скрытые угрозы, которые
стали возможными при достижении определенной стадии в
развитии робототехнических систем, наделенных машинным
разумом и способных к глубинному обучению.

Вступление 7
Голова профессора Доуэля (источник — URL: https://child-lib.com/images/
news/2020/06/2020-06-08/2020-06-08-4.jpg)
И вот тут возникает целый ряд проблем, связанных с со¬
блюдением тех самых законов робототехники, о которых мы
говорили в предыдущей книге. Главная из них заключается в
обеспечении безопасности жизнедеятельности человека при ис¬
пользовании роботов. А зависит безопасность в первую очередь
от квалификации и, если можно так выразиться, нравствен¬
ности разработчиков программного обеспечения. Того самого
искусственного интеллекта, который будет использоваться в
робототехнике. Именно поэтому книга «Вы сказали “искус¬
ственный интеллект”?» и стала своеобразным продолжением
разговора о сложных робототехнических системах, оснащенных
машинным разумом.

8 Вступление
Но для интриги хотелось бы напомнить о двух почти детек¬
тивных историях, происходивших практически в одно и то же
время и оказавшихся тесно связанными с данным повествова¬
нием...
В конце XVIII века, а точнее 13 марта 1783 года, астроном-
любитель Уильям Гершель открыл планету Уран. Это сразу уве¬
личило размеры Солнечной системы в два раза. По наблюдениям
за движением новой планеты математиками была определена
орбита и построена траектория движения Урана. Знание точного
«адреса» планеты на звездном небе позволило и другим астро¬
номам наблюдать за удаленным космическим телом.
Успех Гершеля, которого за сделанное открытие англий¬
ский король возвел в рыцарское достоинство и назначил ко¬
ролевским астрономом, удвоил старания других звездочетов.
Спустя два месяца после опубликования сообщения Гершеля
петербургский академик Андрей Лексель вычислил орбиту
движения новой планеты. За Ураном началась настоящая охота
с использованием самых совершенных на то время телескопов
и подзорных труб. Однако и серьезные ученые, и любители
обнаружили целый ряд странностей в поведении новой пла¬
неты. Наблюдаемое ими движение Урана систематически
отличалось от предсказанного и математически достоверно
вычисленного. Казалось, кто-то невидимый и могуществен¬
ный постоянно мешает Урану на его неспешном пути вокруг
Солнца. Это несоответствие позволило Джону Адамсу и Урбену
Леверье теоретически предсказать существование восьмой
планеты — Нептуна, открытого Иоганном Галле 23 сентября
1846 года. А двумя годами позже, в 1848 году, Леверье делает
новое предположение: за Нептуном может находиться еще одна
планета. И снова десятки телескопов устремляются в звездное
небо. Математики изводят сотни листов, пытаясь вычислить
траекторию новой невидимки.
Все тщетно! Должно было пройти чуть ли не столетие, прежде
чем очередной возмутитель спокойствия в звездном семействе
был найден. В марте 1930 года молодой сотрудник обсерватории
Лоувелла Клайд Томбо скрупулезно отсматривал снимки звезд¬
ного неба, сделанные особой фотокамерой с большой выдерж¬
кой. Снимков были тысячи, и можно было только удивляться,

Вступление 9
насколько терпеливым сотрудником оказался Клайд. И вот на¬
стал его звездный час! На очередных снимках далеких созвездий,
сделанных с промежутком в несколько дней, Томбо обнаружил
небольшую планету. Сначала он подумал, что на фотопластинке
имеется брак. Но более внимательное рассмотрение показало:
это действительно космический объект. Так и была открыта
еще одна предсказанная планета, которая получила название
«Плутон». Кстати, в честь этого эпохального события такое же
имя было присвоено очередному радиоактивному элементу
плутонию...
Теперь оставим космос и математические вычисления и
перенесемся в тихую Швейцарию, куда по приглашению лорда
Байрона приехало из Англии несколько его друзей-писателей.
Остановившись на одной из вилл, компания молодых людей
хотела развлечься, но ненастная погода заставила их сидеть
дома. И, чтобы скоротать время, гости Байрона стали сочинять
романы в стиле модного литературного направления — готики.
Мэри Шелли, подруга, а затем жена поэта Перси Биши Шелли,
написала роман «Франкенштейн, или Современный Про¬
метей», и эта книга стала первым сочинением-«ужастиком» в
английской литературе. В романе рассказывается об ученом
Викторе Франкенштейне, создавшем из неживой материи
великана, который в конце концов вознамерился убить соб¬
ственного творца...
Эти два примера приведены неслучайно. Они предвосхищают
один из аспектов книги об искусственном интеллекте — двой¬
ственность машинного разума, что вынесено в заглавие книги.
Двуликий Янус — наш искусственный интеллект — может при¬
нести благо человечеству, а может и стать его могильщиком...
Мы упомянули о бесконечных просмотрах, которые вы¬
нужден был выполнять молодой сотрудник астрономической
обсерватории Лоувелла. Если бы он работал в наше время, со¬
временный вычислительный комплекс смог бы проанализиро¬
вать отсканированные изображения за несколько минут. И тут
же нашел бы малую планету. Сегодня системы распознавания
лиц внедрены даже в стойки турникетов столичной подземки.
Они позволяют не только осуществлять проход и оплату про¬
езда, но и, как камеры наружного наблюдения, обеспечивают

10 Вступление
круглосуточное наблюдение за безопасностью транспорта.
Такие же системы встроены в наши смартфоны. Технология
Face ID (распознавание лиц) позволяет и разблокировать гаджет,
и выполнить некоторые операции: скажем, оплатить покупки
бесконтактным способом, скачать контент и многое другое.
Особые камеры, установленные на транспорте, обеспечивают
его безопасное движение как по рельсам, так и на автострадах
или улицах городов. Все эти технологии являются элементами
искусственного интеллекта.
А теперь возвратимся к Франкенштейну и чудовищу, им
порожденному В армии Соединенных Штатов Америки на
протяжении нескольких лет ведутся работы по созданию бес¬
пилотных разведывательно-ударных систем. Из лабораторий
военно-промышленного комплекса вышло немало изделий,
уже ставших сенсацией после боевого применения. Летающие
и морские дроны стали привычным атрибутом высокотехно¬
логичного вооружения, многие из них успели «повоевать» в
современных конфликтах в различных районах земного шара.
Однако в нашем случае разработчики явно переусердствова¬
ли с наделением боевой машины слишком самостоятельным
«разумом».
На испытательном полигоне были расставлены цели-ми¬
шени. Их предстояло самостоятельно обнаружить, идентифи¬
цировать и уничтожить. Крылатый убийца получил задание и
поднялся в небо. Он полетал над полигоном и выявил цели.
После отсылки команды в пункт управления боевой робот
устремился на мишень, но тут оператор отменил команду на
открытие огня. Будь это обычный дрон, он либо возвратился
бы на место вылета, либо самоликвидировался. Но беспилотник
под управлением искусственного интеллекта, вероятно, по¬
чувствовал себя глубоко оскорбленным. Ведь ему начислялись
бонусные очки за каждую выявленную и уничтоженную цель.
(Чем не дрессура животных со вкусняшками!) И умный дрон
принял собственное решение — убить оператора, который ему
помешал...
Этот эпизод обсуждался во время саммита, главной темой
которого было изучение потенциала военно-воздушных и кос-

Вступление 11
мических сил будущего. Мероприятие, на котором присутство¬
вали более 200 представителей научного сообщества и военных
из разных стран, состоялось в Лондоне.
Этот инцидент с искусственным интеллектом заставил об¬
ратить пристальное внимание не только на возможности, но и
на последствия внедрения машинного разума в нашу повсед¬
невную жизнь. В последнее время многими государственными
деятелями в разных странах, учеными с мировым именем
и крупнейшими предпринимателями, среди которых Илон
Маск и Стив Возняк, Билл Гейтс и даже Урсула фон дер Ляйен,
обсуждаются проблемы развития искусственного интеллекта.
И Маск, и высшие чиновники Евросоюза призывают примерно
на полгода заморозить все исследовательские работы в области
ИИ. Предупреждают общественность об опасности, которая
таится в бесконтрольном развитии машинного разума и на¬
делении его функциями самообучения и самосовершенство¬
вания.
В России, наоборот, работам в области искусственного ин¬
теллекта дан зеленый свет. Принята государственная программа
развития интеллектуальных систем до 2030 года: выделение
значительных денежных средств IT-компаниям для ускорения
работ с искусственным интеллектом позволит справиться с на¬
меченными планами. Российские математики и программисты,
в том числе школьники, многократно становились победителями
международных соревнований. Отечественная физико-мате¬
матическая школа остается на лидирующих позициях в мире,
а значит, в обозримом будущем мы станем свидетелями суще¬
ственного прорыва в области робототехники и искусственного
интеллекта.
Так где же истина? ИИ — добро или зло?! Или истина всегда
остается где-то посредине полярных мнений?
Давайте поразмышляем. Для начала обратимся к авторитет¬
ному источнику. Портал Nature опубликовал результаты опроса
1600 ведущих ученых об использовании инструментов искус¬
ственного интеллекта (ИИИ) в научной работе.
Результаты опроса вполне предсказуемы. Опрошенные раз¬
делились на сторонников и противников использования подоб¬
ного инструментария в научных целях. Наиболее позитивно уче-

12 Вступление
ные оценивают способность ИИИ ускорять обработку данных,
а среди главных рисков отмечают возрастание зависимости от
простого распознавания образов без реального понимания. Один
из участников опроса сформулировал это так: «Искусственный
интеллект бросает вызов нашим существующим стандартам
доказательства и истины».
Причем мнения разделились диаметрально противополож¬
ным образом. Кто-то ратует за дальнейшее развитие машинного
разума, видя в нем существенное подспорье, другие видят в нем
смертельную опасность для всего человечества, выраженную в
гипотетическом «восстании машин».
В этой книге мы попробуем отделить зерна от плевел и про¬
анализируем как истоки появления искусственного интеллекта,
так и связанные с его развитием проблемы. Любопытное дело:
редко какая технология не порождала такое количество страхов
и надежд, как искусственный интеллект. Создание машинного
разума многими людьми воспринимается как несомненное
благо, которое поможет решать задачи, непосильные для
обычного человека. Сложнейшие математические вычисления
становятся для суперкомпьютеров делом нескольких секунд.
То, над чем выдающиеся умы работали по нескольку лет, для
современной техники представляет довольно тривиальную за¬
дачу. Вычисления, при помощи которых был открыт Плутон,
современными суперкомпьютерами могли быть сделаны за
считанные секунды...
Но как быть с невидимым или необъятным?! Способен ли ис¬
кусственный интеллект справиться с задачами, решить которые
человеку пока не по силам из-за специфических обстоятельств?
Только что ученый мир облетела сенсационная новость.
Студент Люк Фарритор, изучающий информатику, с помощью
искусственного интеллекта сумел расшифровать первое слово
в древнеримском пергаменте. Вы можете спросить, что в этом
сложного. Египетские иероглифы два века назад расшифровал
французский египтолог Жан-Франсуа Шампольон, а уж лапи¬
дарную латынь прочесть проще простого. Но все дело в том,
что пергаментный свиток был найден в 1700 году при раскопках
города Геркуланум, который разделил печальную участь Помпей.
Огонь буквально сплавил пергамент. Размотать его не пред-

Вступление 13
ставлялось возможным из-за чрезвычайной хрупкости древней
кожи, на которой писали римляне.
Было принято решение использовать уникальную техноло¬
гию сканирования с виртуальным расслоением пергамента. По
сути, предлагалось использовать томограф с его технологией
послойного сечения. А искусственный интеллект обрабатывал
полученные снимки, используя оптическое распознавание
символов. Эта технология не нова. Ею пользуются больше двух
десятков лет. Признаюсь, сам не единожды набирал при помо¬
щи сканера большие произведения. У технологии OCR (optical
character recognition — оптическое распознавание символов) есть
свойство обучения. Вы сканируете незнакомый текст, а затем
подсказываете программе точное начертание литеры. Конеч¬
но, если это делает машинный разум, то вычислительная мощь
компьютера позволяет такое обучение делать за секунды. И не¬
случайно студенту удалось прочесть слово «пурпурный». Успех
Фарритора сподвиг и других исследователей заняться римским
свитком, тем более что за выполнение такой работы полагается
солидное денежное вознаграждение. Возможно, в скором вре¬
мени искусственному разуму поддадутся и другие исторические
загадки, скрытые в древних артефактах?! И виртуальный по¬
мощник заслужит очередную похвалу.
Однако достоянием общественности также стали факты,
когда искусственный интеллект, встроенный в модель боевого
робота, пытался убить оператора. Чем не виртуальный монстр
из романа о Франкенштейне?!
«Я причисляю себя к тем, кто опасается искусственного су¬
перинтеллекта. Сначала машины будут выполнять за нас только
часть работы, не будут слишком умными и не будут нам угрожать.
Если мы будем правильно ими управлять, то проблем не будет.
Но через несколько десятилетий искусственный интеллект ста¬
нет сложнее и может представлять собой опасность. Я согласен с
Илоном Маском и не понимаю, почему некоторых эта проблема
совсем не беспокоит».
Это слова одного из основателей компании «Майкрософт»
Билла Гейтса. Человека, который создал программное обе¬
спечение Windows, установленное почти на всех компьютерах
мира. Человека, посвятившего много времени и сил борьбе со

14 Вступление
страшными вызовами, с которыми сталкивается человечество,
например климатическими проблемами и неизлечимыми
болезнями. И его озабоченность судьбами мира вполне объяс¬
нима.
Так давайте же пройдемся по главам книги и попробуем
разобраться: что же такое искусственный интеллект, в чем его
несомненная польза для человечества и что таят глубины ма¬
шинного разума?

Видеть и делать новое — очень
большое удовольствие.
Вольтер

ГЛАВА 1
РАЗУМ «ИЗ ПРОБИРКИ»
Обоснование учеными от седой древности до наших дней возмож¬
ности использования человечеством «коллективного эгрегора».
Понятие ноосферы, сформулированное Владимиром Вернадским,
и его роль в создании ИИ. Поиск путей создания искусственного
интеллекта. Компьютеризация и всемирная паутина как форма
существования машинного разума.
Древние римляне, известные своим умением создавать «крыла¬
тые латинские выражения», вывели формулу ab ovo, буквально
«от яйца». Таким образом, они проводили изучение любого при¬
чинно-следственного явления с самого начала, с зарождения.
Математика, сегодня известная любому мало-мальски грамотно¬
му человеку, насчитывает не один десяток тысяч лет. Археологи,
проводившие раскопки на местах древних стоянок первобытных
людей, нашли любопытные артефакты. Это были кости живот¬
ных с зарубками. Анализ отметок на костях свидетельствовал
о том, что это был образец каких-то вычислений. Возможно,
древний хозяйственный охотник таким образом зафиксировал
количество добытых зверей перед долгой зимой. Может быть,
была тому и другая причина, но пометки на костях имели ис¬
кусственное происхождение и явно были связаны с подсчетом.
Таких необычных находок, датированных, как показал радио¬
изотопный и углеродный анализ, от пятидесяти до двадцати ты¬
сяч лет до нашей эры, было несколько. Они обнаруживались во
многих местах — и в Африке, и в Азии, и в Европе. На Черном
континенте на стоянке Ишанго была обнаружена счетная кость с
зарубками. Ее возраст определялся в 20—40 тысяч лет. Значит, уже
с древности люди занимались подсчетом окружающих предметов
или животных. Этот вывод подтверждает и лучевая кость волка,
найденная археологами на территории современной Чехии. На

Глава 1. Разум «из пробирки» 17
ней было 55 зарубок, и это было не случайное обозначение.
Числовые записи при этом были различные. Кто-то из перво¬
бытных охотников высекал на стенах пещер фигурки добытых
зверей, кто-то рисовал углем, взятым из очага, обозначая коли¬
чество необыкновенными ветвями оленьих рогов. Но должны
были пройти столетия, прежде чем наука подсчета обрела свои
формулы и стала насущной необходимостью человека. Такой
же значимой, как каменные топоры и костяные иглы, скребки
и кремневые ножи, луки и деревянные стрелы.
Первые математические «записные книжки» на костях жи¬
вотных или наскальные рисунки позволяют не только обнару¬
жить возникновение системы счета у различных народов, но и
понять правила записи или обозначения чисел. Любопытно,
что, скажем, числовая система племени бакаири, живущего в
Бразилии, имеет названия только для чисел не больше шести.
В то же время у племени йоруба из Нигерии существует сложный
субстрактивный способ наименования.
Исследования подобных числовых знаков дают возможность
доказать, что уже первобытному человеку были известны не
только счет и система его записи, но и пути развития математики
как науки, ее роль в становлении человеческой цивилизации.
К сожалению, колонизаторы, «открывшие» новые континенты
или районы проживания древних людей, не всегда с должным
вниманием относились к наследию племен, к предметам, кото¬
рые составляли их быт и определяли образ жизни и род занятий.
Очень многое было варварски уничтожено, и эту утрату сегодня
почти невозможно восполнить.
Однако перешагнем через тысячелетия, чтобы оказаться
в солнечной и щедрой на исторические памятники Древней
Греции. Именно греческие ученые мужи (а в редких случаях
и женщины, как это было со знаменитой женщиной-матема-
тиком Гипатией (Ипатией)) создали во многом современную
математическую основу, в которой содержались не только ариф¬
метические правила счета, но и более сложные вычисления, а
также геометрию, без которых не было бы ни величественных
строений, ни многих правил, таких как легендарные «пифагоро¬
вы штаны». Воскликнем же вслед за великим мужем «Эврика!»
(«Я нашел!») и посмотрим, что дали греки для нашей жизни.

18 Глава 1. Разум «из пробирки»
Почти тысячу лет — с VI века до нашей эры до V века нашей
эры — складывалась уникальная древнегреческая математическая
школа. Ее достижения сложно переоценить. Греки построили
математику как целостную науку с собственной методологией,
основанной на четко сформулированных законах логики. Они
же провозгласили, что законы природы постижимы для челове¬
ческого разума, а математические модели — ключ к их познанию.
В книге о роботах мы упоминали о рабстве как о способе про¬
изводства, освобождавшем свободного мыслителя от рутинной
работы. Именно благодаря возможности вести созерцательный
образ жизни у греков появилось свободное время, в том числе
и для развития математики, причем не только как прикладной
дисциплины, но и как самостоятельной отрасли знаний.
Интересы древнегреческих математиков простирались далеко
за рамки утилитарного использования знаний геометрии для
земледелия или строительства, а арифметики — для подсчета ко¬
личества товаров или имущества: они применяли математические
знания для определения отвлеченных понятий, например, в ну¬
мерологии и астрологии как науках для гаданий и предсказаний.
От древних греков пошло выражение «числа правят миром», а
знаменитый ученый Средневековья Галилео Галилей с полным
основанием утверждал: «Книга природы написана на языке ма¬
тематики». Архитектура, оптика, музыка, астрономия и позднее
механика получили надежный инструментарий для своего раз¬
вития. Математика стала и методом познания окружающей дей¬
ствительности, и способом преобразования этого мира. Греческие
математические школы вывели ее на невиданный доселе уровень.
Взяв на вооружение лучшие достижения египетской, вавилон¬
ской математических школ, древние греки совершили один из тех
громадных переворотов в общественной жизни, которые сродни
эпохе великих географических открытий. Они изменили мир и
создали то будущее, в котором мы с вами сейчас живем. Если бы
греческие математики перенеслись на машине времени в наши
дни, они бы обнаружили, что современный человек буквально
окружен цифровой вселенной, а их предположения и выводы,
сделанные из наблюдений за окружающим миром, верны!
Но до этого надо было пройти очень непростой путь. И древ¬
негреческие математики пустились в долгое и увлекательное

Глава 1. Разум «из пробирки» 19
путешествие в мире цифр и измерений. Именно греки ввели
счет на десятки (вспомним, кстати, пяди, вершки, аршины и
сажени). Для подсчета они использовали камешки. Цифры от
единицы до девяти получили обозначения греческого алфавита,
а для обозначения нуля у греков был «курицын бог» — камешек
с дыркой посредине. Чтобы не перепутать слова и числа, греки
над обозначением цифры ставили черточку. Счет у греческих
математиков был аддитивный, то есть числа попросту добавля¬
лись друг к дружке. Был придуман и первый калькулятор — абак,
в котором в особом порядке помещались камешки. Кстати,
именно от греческого calculus (калькулюс, счет) и произошло
современное название этого прибора.
Созданная греками математическая модель обладала не¬
оспоримой предсказательной силой. Одновременно была вы¬
работана методология математики, что позволило превратить
ее из свода полуэвристических алгоритмов в целостную систему
знаний. Основой этой системы впервые стал дедуктивный ме¬
тод, показывающий, как из известных истин выводить новые,
причем логика вывода гарантирует истинность новых резуль¬
татов. Дедуктивный метод также позволяет выявить неочевид¬
ные связи между понятиями, научными фактами и областями
математики.
Сопутствующим развитию математики стало формирова¬
ние законов формальной логики — того базиса, на котором
построены все современные компьютерные системы и языки
программирования. Особые заслуги в развитии математики при¬
надлежат Пифагору. Он был легендарной личностью, не просто
сумевшей сформулировать многие теоремы и доказательства,
но и создавшей большое число математических школ, которые
распространились по всему известному древним грекам миру
и способствовали появлению множества новых направлений в
математике и геометрии.
И коль скоро мы ведем разговор об искусственном интеллек¬
те, то именно созданная Пифагором «математическая гармония
мира» стала основой того явления, которое мы называем «циф¬
ровая вселенная». Пифагорейцы построили математическую те¬
орию музыки. Они вывели зависимость музыкальной гармонии
от отношений целых чисел (длин струн). Эта теория, доказанная

20 Глава 1. Разум «из пробирки»
живыми примерами, стала сильным аргументом пифагорейцев.
Верность ее спустя 2000 лет доказал математик Иоганн Кеплер.
Коль скоро «элементы чисел являются элементами всех
вещей... и весь мир в целом является гармонией и числом» со¬
гласно учению пифагорейцев, в основе всех законов природы
лежит арифметика, ведь с ее помощью можно проникнуть во
все тайны мира.
Наверное, многие из вас видели фильм «Матрица». В нем
наряду с нашим миром (или все-таки вместо него?!) существует
виртуальный мир. Он создан искусственно, но обладает всеми
признаками реального мира. Из Матрицы люди получают и зна¬
ния, и предметы. Как близко этот сюжет подошел к созданному
великим русским ученым Владимиром Вернадским понятию
«ноосфера»!
Вернадский считал, что развитие человечества, а именно то,
что оно стало единым, а также современные средства связи и
информационного обмена сделали доступными новые знания,
позволили открыть новые источники энергии и поднять благо¬
состояние людей, высвободили творческую энергию человека.
В результате биосфера, в которой живут и развиваются природа
и человек, неизбежно переходит в новую категорию — ноосферу.
Сферу разума. Учение Владимира Вернадского тесно связано с
эзотерическим понятием эгрегора, которое ввели еще мыслители
древности и охотно используют и современные ученые, и религи¬
озные деятели. Эгрегор — это особый дух и накопленные знания
прошлых поколений, которые витают в пространстве и к которым
в результате духовных практик могут подключаться люди.
К такому понятию можно относиться по-разному, но со¬
временный человек легко объяснит, что эгрегор и ноосфера уже
используются нами. Это ставшие привычными даже ребенку
Интернет и облачные хранилища данных!
Как известно, Интернет как всемирная сеть, объединившая
вычислительные комплексы и хранилища информации, по¬
явилась еще в 1962 году. Перед разработчиками программного
обеспечения встала задача быстрой передачи данных между
компьютерами. До использования локальной сети и специаль¬
ных протоколов перенос с одной рабочей станции на другую
осуществлялся при помощи магнитных дисков. Их емкость

Глава 1. Разум «из пробирки» 21
была ограниченной, и большие файлы просто не помещались на
гибких носителях. Несколькими годами позже стали появляться
новые носители — более емкие диски и оптические лазерные
диски, на которых уже помещались данные, в тысячу раз пре¬
вышающие емкость гибких дискет. Но для вычислительных
комплексов и серверов этого было недостаточно. И тогда аме¬
риканский инженер Джозеф Ликлайдер в 1962 году разработал
концепцию компьютерной сети.
Эта идея получила дальнейшее развитие, и ряд ученых пред¬
ложили использовать децентрализованную систему связанных
между собою одноранговых компьютеров. Каждая машина,
таким образом, работала в единой сети, но при этом сбой или
выход из строя одной из рабочих станций не влиял на работо¬
способность всей сети. Если прибавить сюда и возможность
передавать данные пакетами, получалась надежная и мощная
вычислительная среда.
Этим решались две важные задачи — обеспечение работоспо¬
собности системы и неуничтожимость данных, которые оказы¬
вались сохраненными на разнесенных друг от друга компьюте¬
рах. Предполагалось передавать сообщения в цифровом, а не в
аналоговом виде. Предлагалось само сообщение разбивать на
небольшие порции — «пакеты» и передавать по распределенной
сети все пакеты одновременно. Из принятых в месте назначения
дискретных пакетов сообщение заново «собиралось».
Спустя пять лет англичанин Дональд Дэвис разработал кон¬
цепцию сети и добавил в нее существенную деталь: компью¬
терные узлы должны не только передавать данные, но и быть
«переводчиками» для различных компьютерных систем и язы¬
ков. Так появилась сеть, которой со временем довелось стать
«всемирной паутиной».
Интернет и хранилища данных позволили создать системы,
которые могут взаимодействовать с большим числом цифровых
данных. Подобно пифагорейцам, современные программисты и
разработчики прикладного программного обеспечения смогли
оцифровать большинство предметов, явлений, звуков и изо¬
бражений, которые окружают человека. По мере разработки
новых технологий ушли в небытие многие привычные несколь¬
ким поколениям предметы. Из самых лежащих на поверхности

22 Глава 1. Разум «из пробирки»
устройств — фотоаппараты и магнитофоны, проигрыватели
виниловых дисков и многое другое. Звук и изображение давно
записываются в цифровом формате. А их носителями, храните¬
лями и устройствами воспроизведения стали гаджеты, которые
можно разместить на подушечке пальца. При этом цифровой
звук «очищается» от посторонних шумов, а старые потускневшие
фотографии становятся яркими и контрастными.
Но и это не все преимущества цифровых технологий. Одним
из важнейших условий выведения искусственного интеллекта
в самые передовые технологии стала открытость источников
информации. Современные базовые алгоритмы машинного об¬
учения публикуются под открытыми лицензиями — OpenSource.
Программисты из многих стран, воспользовавшись одним из
сайтов, получают доступ к неограниченной базе алгоритмов,
языков программирования и готовых программ. Такой свобод¬
ный обмен информацией позволил устранить дублирование
при работе над проблемами, существенно расширил поле для
исследовательской деятельности и увеличил инструментарий,
которым теперь могут пользоваться удаленные разработчики.
Появилась возможность объединять рабочие группы вне зави¬
симости от их местоположения. Облачные хранилища предо¬
ставляют возможность получать необходимые данные и хранить
собственную информацию. Удобство облачных хранилищ со¬
стоит в том, что, получая вместе с операционной системой или
покупая необходимые объемы, пользователь не задумывается
над тем, на каких именно серверах, в какой стране находится
хранилище.
Вы, наверное, не раз использовали облачные сервисы для хра¬
нения собственных фотографий, видео, музыки. Для получения
доступа к ним вы просто заходите в собственное хранилище под
своими логином и паролем с любого устройства, подключен¬
ного к Интернету. Тем самым освобождается память, скажем,
смартфона или планшета, имеющих ограниченный объем
хранилища. Практически все операторы «большой четверки» в
России — «МТС», «Билайн», «Теле2» и «Мегафон» — имеют соб¬
ственные облачные хранилища. Абонент сотовой связи вместе с
контрактом получает и определенный объем в облаке, который
может наполнять собственным контентом.

Глава 1. Разум «из пробирки» 23
Источник — URL: https://www.shutterstock.com/ru/image-photo/fast-
intemet-connection-high-speed-test-2300044771
Для уверенной работы искусственного интеллекта, конечно,
требуются хранилища больших объемов и высокопроизводи¬
тельная вычислительная техника, способная делать параллель¬
ные вычисления. Тысячи параллельных процессоров, такие
как GPU (графические карты, изначально созданные для отри-
совки трехмерных реалистичных изображений в видеоиграх),
оказались превосходным инструментом для параллельного
расчета нейронных сетей. Такая карта представляет собой не¬
сколько тысяч вычислительных ядер, объединенных в единую
архитектуру и позволяющих адресоваться к ней как к единому
устройству. Компания NVIDIA своевременно увидела эту новую
возможность и, оказав всемерную поддержку сообществу ИИ,
является сегодня безусловным лидером рынка GPU для задач
ИИ, также разрабатывая новые прикладные решения для от¬
дельных отраслей.
Чтобы понять, насколько важны для искусственного ин¬
теллекта вычислительные мощности, достаточно посмотреть

24 Глава 1. Разум «из пробирки»
на одну из последних разработок компании NVIDIA — Xavier —
самую амбициозную однокристальную систему для задач ИИ.
Xavier имеет семь миллиардов транзисторов — больше, чем самые
современные CPU для серверов. Примечательно, что Xavier об¬
ладает мощностью 20 тераопераций в секунду!
Не для каждой задачи требуется такой вычислительный
монстр. Поэтому в научной среде разработчики условно делят
искусственный интеллект на сильный и слабый. Слабый интел¬
лект позволяет создавать подсистемы, которые могут обладать
ограниченным набором когнитивных (познавательных) спо¬
собностей. Рассмотрим, например, машинный разум, исполь¬
зуемый для организации беспилотного движения поездов. Его
функционал заключается в наборе нескольких важных задач:
распознавание предметов на пути следования, расчет скорости
движения и прицельного торможения на платформе, передача в
диспетчерский центр данных о своем местоположении, а также
данных о состоянии узлов и механизмов поезда.
Сильный искусственный интеллект открывает дорогу ши¬
рокому использованию автономных роботов, способных к
обучению, в отличие от сегодняшних роботов, для которых
поведение программируется заранее. А разработчики робототех¬
ники стремятся создать такую архитектуру системы, которая бы
наделила технику искусственной психикой. Нам известен лишь
один агрегат в природе, обладающий психикой, — человеческий
мозг. Изучение принципов его работы, способов получения,
обработки и хранения информации, полученной посредством
органов чувств, может послужить ключом к созданию техно¬
логий сильного искусственного интеллекта, который мог бы
посоперничать с мозгом.
Несколько лет назад проводились необычные соревнования,
к которым было приковано внимание всего человечества. Речь
идет о шахматных поединках чемпионов мира с компьютером.
Сильной стороной электронного шахматиста была его безгра¬
ничная память, в которую программисты загрузили максималь¬
ное количество шахматных партий. На стороне человека было
оружие, которое пока неподвластно искусственному разуму, —
интуиция и творчество.

Глава 1. Разум «из пробирки» 25
Каспаров против компьютера
(источник — URL: https://cameralabs.org/9808-20-let-nazad-kompyuter-
vpervye-vyigral-shakhmatnuyu-partiyu-u-chempiona-mira)
11 мая 1997 года состоялся необычный поединок. Шахматный
компьютер Deep Blue, специально созданный компанией IBM,
сыграл шесть партий с чемпионом мира по шахматам Гарри Ка¬
спаровым. Две победы были на счету машины, один раз победил
человек и три партии были сведены к ничьей. До появления
машины-чемпиона разработчики создали несколько подобных
суперкомпьютеров, предназначенных для теории игр. Глубинное
обучение машин, наряду с загрузкой в их память большого числа
шахматных партий, проводили опытные гроссмейстеры. С их
помощью компьютеру прививались навыки игровой логики.
Единственное, чему не могли научить машину, — мыслить не¬
стандартно, парадоксально, что может делать только человек.
С того поединка прошло почти два десятка лет. За это вре¬
мя искусственный интеллект сделал несколько шагов вперед.
Современные искусственные нейросети могут содержать мил¬
лиарды параметров, которые автоматически подбираются под
любую задачу в процессе обучения. Вот только человеку не по
силам понять, что именно происходит в «мозгах» машины. Воз¬
можно, когда будет раскрыт последний секрет функционирова-

26 Глава 1. Разум «из пробирки»
ния человеческого мозга, мы сможем полностью довериться и
машинному разуму. А до той поры необходимо будет с особой
тщательностью разрабатывать систему правил, которыми будет
руководствоваться компьютер. Пока еще такой возможности нет,
несмотря на то что роботы научились понимать человеческую
речь и вести несложный диалог с людьми. Речь стала источником
загрузки данных в машину наряду с языками программирова¬
ния. Но это еще не значит, что искусственный интеллект стал
тождествен человеческому разуму.
А тернистый путь создания ИИ интересен. Пройдемся по
самым важным этапам в его развитии и узнаем, что, где, когда
произошло в мире науки и техники, прежде чем появился такой
необычный феномен — искусственный интеллект.

Если я видел дальше других,
то потому, что стоял
на плечах гигантов.
Исаак Ньютон

ГЛАВА 2
НА ПЛЕЧАХ ГИГАНТОВ
Научные и технико-технологические предпосылки для разработки
систем ИИ. Развитие математики и натурфилософии как основы
создания «машинногоразума». Потребности цивилизаций в точных
науках и сложных вычислениях. Первые образцы искусственного
интеллекта.
Многие, наверное, слышали расхожее выражение «стоять на
плечах гигантов». Оно обозначает преемственность научной
школы или какого-нибудь открытия. Искусственный интел¬
лект — сравнительно новая отрасль в науке и технике, но и она не
возникла из ниоткуда. Над истоками современного искусствен¬
ного разума начали трудиться еще мыслители Древнего мира,
особенно математики и философы Древней Греции. Аристотель,
Демокрит, Пифагор заложили краеугольные камни в развитие
науки об искусственном разуме. Они сформулировали законы
логики, ввели понятие цифровой вселенной, подразумевая
возможность искусственно создавать механизмы, схожие по
роду деятельности с животными и человеком. При этом пола¬
гали, что посредством чисел и математических формул можно
не только объяснить, но и преобразовать действительность.
Много внимания они уделяли познанию законов человеческого
мышления, логика которого используется в современных вы¬
числительных сетях.
Конечно, основополагающие знания о высшей нервной
деятельности человека были получены уже в конце XIX — на¬
чале XX века учеными — физиологами и психиатрами, среди
которых выделяются наши соотечественники Иван Павлов и
Владимир Бехтерев. Именно они исследовали самые тонкие
материи, определив наличие и функции нейронов — волокон,
через которые передаются сигналы в мозг. Они же определили и

Глава 2. На плечах гигантов
отделы головного мозга, в которых «хранится» память, описали,
как именно происходит обмен информацией, поступающей от
органов чувств в головной мозг. По сути, это были открытия,
которые подсказали, как можно механическим путем скон¬
струировать подобную систему, названную десятилетия позже
машинным разумом или искусственным интеллектом.
После того как мы поняли, на чьих же плечах стоит современ¬
ная наука, самое время пройтись по основным этапам историче¬
ского развития, чтобы понять, как творческое переосмысление
идей древних мыслителей приводит к неожиданным открытиям.
Если взять определение искусственного интеллекта, то оно
не имеет однозначной трактовки. Слишком много ученых внес¬
ли свой вклад в определение и функционал ИИ. А поскольку
области его использования простираются от медицины до
промышленных систем, становится понятно, что и концепция
машинного разума каждой научной школой выводится по-
своему. Одно из таких определений звучит следующим образом:
«Искусственный интеллект (ИИ, англ. artificial intelligence, AI) —
свойство искусственных интеллектуальных систем выполнять
творческие функции, которые традиционно считаются пре¬
рогативой человека; наука и технология создания интеллек¬
туальных машин, особенно интеллектуальных компьютерных
программ».
Правда же, несколько узковато? В понятие искусственного
интеллекта сегодня включают и такие возможности, которые
присущи скорее не творцу, а инженеру. Заместитель председателя
правительства Российской Федерации Дмитрий Чернышенко
считает, что искусственный интеллект успешно применяется
в целом ряде сфер, помогая повысить эффективность работы.
Обновленная стратегия развития искусственного интеллекта до
2030 года включает в себя меры по созданию инфраструктуры,
развитию науки, подготовке кадров, поддержке внедрения этих
решений. «Россия уже является сейчас де-факто и намерена
продолжать быть страной с одним из самых благоприятных
регуляторных режимов в мире для эффективного развития
технологий с использованием искусственного интеллекта», —
отметил Дмитрий Чернышенко.

30 Глава 2. На плечах гигантов
Чтобы принять эту расширенную трактовку, пройдемся даль¬
ше по вкладу титанов, на плечах которых вырос ИИ. Как при¬
кладная наука, искусственный интеллект имеет теоретическую
и экспериментальную части. Практически проблема создания
искусственного интеллекта находится на стыке информатики
и вычислительной техники, с одной стороны, с нейрофизио¬
логией, когнитивной и поведенческой психологией — с другой.
Теоретической основой должна служить философия искусствен¬
ного интеллекта, но только с появлением значимых результатов
теория приобретет самостоятельное значение. Пока же теорию и
практику искусственного интеллекта следует отличать от матема¬
тических, алгоритмических, робототехнических, физиологиче¬
ских и прочих теоретических дисциплин и экспериментальных
методик, имеющих самостоятельное значение.
На саму возможность размышлять о понятии «искусственный
интеллект» огромное влияние оказал механистический матери¬
ализм, зарождение которого начинается с работы Рене Декарта
«Рассуждение о методе» (1637) и вышедшей сразу вслед за этим
работы Томаса Гоббса «Человеческая природа» (1640).
Рене Декарт предположил, что животное — некий сложный
механизм, тем самым сформулировав механистическую теорию.
Казалось бы, это мы уже читали у древнегреческих мыслителей.
И тут важно понимать, чем отличается именно механистический
материализм от античного материализма, принципы которого
изложены в работах Аристотеля. Дело в том, что механистиче¬
ский материализм направлен на механистическое происхожде¬
ние организмов, в то время как античный материализм исходит
из механистического происхождения природы, а диалектиче¬
ский и исторический материализм относятся к проявлениям
механизма в обществе.
Поэтому понятно, что без понимания механистичности в
организмах не могла идти речь о понимании искусственного ин¬
теллекта даже в самом примитивном смысле, а механистичность
природы и общества выходит за рамки области искусственного
интеллекта и, строго говоря, не является его необходимой пред¬
посылкой.
Позднее Средневековье в канун первой промышленной
революции, положившей начало не только буржуазному строю,

Глава 2. На плечах гигантов 31
но и последовавшему за ним капитализму, принесло целый
ряд открытий и разработок, оказавших решающее воздействие
на развитие механики и теоретической науки. В 1623 году
Вильгельм Шикард (нем. Wilhelm Schickard) построил первую
механическую цифровую вычислительную машину, за которой
последовали машины Блеза Паскаля (1643) и Лейбница (1671).
Лейбниц также был первым, кто описал современную двоичную
систему счисления, хотя до него этой системой периодически
увлекались многие великие ученые. (В скобках так и хочется
заметить, что именно двоичный код лег в основу компьютерных
программ!)
В 1832 году коллежский советник С.Н. Корсаков выдвинул
принцип разработки научных методов и устройств для усиле¬
ния возможностей разума и предложил серию «интеллекту¬
альных машин», в конструкции которых впервые в истории
информатики применил перфорированные карты. В XIX веке
Чарльз Бэббидж и Ада Лавлейс работали над программируемой
механической вычислительной машиной. Первые компьютеры
появятся только век спустя!
В 1910—1913 гг. Бертран Рассел и А.Н. Уайтхед опубликовали
работу «Принципы математики», которая произвела революцию
в формальной логике. В 1941 г. Конрад Цузе построил первый
работающий программно-управляемый компьютер. Уоррен
Мак-Каллок и Уолтер Питтс в 1943 г. опубликовали A Logical
Calculus of the Ideas Immanent in Nervous Activity, который заложил
основы нейронных сетей.
В 1943 г. в своей статье «Логическое исчисление идей, отно¬
сящихся к нервной активности» У Мак-Каллок и У. Питтс пред¬
ложили понятие искусственной нейронной сети. В частности,
ими была предложена модель искусственного нейрона. Д. Хебб
в работе «Организация поведения» (1949 г.) описал основные
принципы обучения нейронов. Эти идеи несколько лет спустя
развил американский нейрофизиолог Фрэнк Розенблатт. Он
предложил схему устройства, моделирующего процесс челове¬
ческого восприятия, и назвал его перцептроном.
Если вспомнить советских ученых, искусственный интеллект
был главной областью научной деятельности доктора техниче¬
ских наук, профессора Д.А. Поспелова.

32 Глава 2. На плечах гигантов
Д.А. Поспелов, доктор технических наук, профессор
Дмитрий Александрович был очень одаренным математи¬
ком и мыслителем. Его научные интересы выходили далеко
за рамки решения чисто математических задач. Поспелов
успешно занимался моделированием поведения человека, фор¬
мализацией рассуждений, общими проблемами моделирования
жизненных процессов в естественных и искусственных систе¬
мах. Ему же принадлежит и мировой приоритет в разработке
подхода к принятию решений, опирающегося на семиотиче¬
ские (логико-лингвистические) модели, который послужил
теоретической основой ситуационного управления большими
системами. Это было предтечей решения проблем больших дан¬
ных (BigData), без которых немыслима работа искусственного
интеллекта.
В 1956 г. Д.А. Поспелов окончил механико-математический
факультет Московского государственного университета им.
М.В. Ломоносова. С 1956 по 1968 гг. он трудился в Московском
энергетическом институте, а с 1968 г. работал профессором

Глава 2. На плечах гигантов 33
Московского физико-технического института. С 1968 по 1998 гг.
Дмитрий Александрович работал в Вычислительном центре
РАН в качестве заведующего отделом проблем искусственного
интеллекта.
Профессором Поспеловым был создан целый комплекс но¬
вых методов построения систем управления, в основе которых
лежит идея семиотических (конкретно логико-лингвистиче¬
ских) моделей представления объекта управления и описания
процедур управления ими. Концепции, положенные в основу
таких методов (наибольшее распространение в СССР (России)
получили метод семиотического моделирования и метод ситу¬
ационного управления) еще в конце 1960-х годов, на десятки
лет опередили аналогичные идеи, которые впоследствии вновь
появились сначала в работах по искусственному интеллекту и
интеллектуальным системам, а начиная с 1995 года — в рамках
нового мирового научного направления «прикладная семиоти¬
ка». В СССР еще в 1970-х годах с помощью метода семиотиче¬
ского моделирования и метода ситуационного управления были
созданы эффективные модели оперативного диспетчерского
управления такими разнообразными объектами, как грузовой
морской и рыбный порты, трубопроводный транспорт, авто¬
комбинат, а также рядом специальных объектов. Также были
разработаны специальные логические модели, отображающие
в памяти технической системы полный набор необходимых
знаний о фундаментальных связях между явлениями окружа¬
ющей среды. Эти модели получили общее название псевдо¬
физических логик. Среди них пространственная, временная и
причинно-следственные логики, а кроме того, логики целей и
действий. В 1987 году в издательстве «Наука» вышла коллек¬
тивная монография под редакцией Д.А. Поспелова «Представ¬
ление знаний о времени и пространстве в интеллектуальных
системах», в которой эти исследования получили завершенное
представление.
Д.А. Поспеловым были заложены основы нового научного
направления, относящегося к инженерии знаний, — модели¬
рования рассуждений специалистов-экспертов, принимающих
решения в различных предметных областях. Создана теория не¬
четкой частотной логики и нечетких квантификаторов, которые

34 Глава 2. На плечах гигантов
наряду с теорией нечетких множеств позволили специалистам
построить математические модели человеческих рассуждений,
учитывающие те или иные «нефакторы», свойственные мыш¬
лению специалистов (неполнота, нечеткость, недетерминиро¬
ванность, неточность и т.п.). В 1986 г. в издательстве «Наука»
под редакцией Д.А. Поспелова вышла монография «Нечеткие
множества в системах управления и искусственного интеллекта»,
где были приведены первые итоги развития работ в этом на¬
правлении в России. Д.А. Поспелов был одним из вдохновителей
создания нового научного направления «мягкие измерения»,
объединяющего в себе методы искусственного интеллекта, мяг¬
ких вычислений (включающих нечеткие системы, генетические
алгоритмы и нейросети), субъективных байесовских измерений
и метрологии для моделирования и мониторинга сложных при¬
родных комплексов и экосистем.
Эти научные исследования позволили выработать подходы
к машинному обучению (deep learning) — глубокому обучению
систем искусственного интеллекта, приближая его к образцам
человеческого мышления. Для глубокого анализа больших дан¬
ных и, главное, извлечения из них нового знания необходим был
математический аппарат, имитирующий деятельность мозга и
высшей нервной деятельности.
Идеи создания машин, обладающих сознанием, возникали
еще в Древней Греции, а первый программируемый ткацкий
станок с инструкциями на перфокартах был создан Джозефом-
Мари Жаккардом еще в XIX веке, но лишь в новейшее время
все исторические наработки получили реальное воплощение.
В 1937 году Алан Тьюринг обнародовал свое изобретение — уни¬
версальную машину Тьюринга, в 1939 году в Нью-Йорке были
представлены первый механический человек Electro и собака
Sparco.
В книге «Вы сказали “роботы”?» мы рассказали об отече¬
ственных разработках в области робототехники, в том числе
о роботе В2М пионера из Новочеркасска Вадима Мацкевича,
который на промышленной выставке в Париже продемонстри¬
ровал свое детище еще в 1936 году. Именно этот успех мальчика
из СССР подтолкнул инженеров и механиков во всем мире за¬
няться вплотную созданием роботов...

Глава 2. На плечах гигантов 35
Однако возможность разрабатывать программы, выпол¬
няющие сложные интеллектуальные задачи, стала реальной
только в результате появления современных компьютеров после
Второй мировой войны. Ученые из различных областей стали
задумываться о возможности создания искусственного мозга.
Исследования в области неврологии показали, что мозг пред¬
ставляет собой нейронную сеть, а Алан Тьюринг предположил,
что любое вычисление можно представить в цифровом виде.
К 1950 году Тьюринг разработал тест, определяющий уровень
схожести действий машины с сознанием человека, впоследствии
названный тестом Тьюринга.
Первая нейронная сеть SNARC была создана аспирантом
Марвином Мински в 1951 году. Оставалось всего несколько
шагов до того, чтобы название «искусственный интеллект»
впервые было использовано в научной среде. На Дартмутской
конференции в 1956 году был зачитан доклад на эту тему, тогда
же появилась и научная дисциплина «исследование искусствен¬
ного интеллекта».
Впоследствии были созданы машины, понимающие речь
человека, умеющие поддерживать беседы на заданные темы, и
роботы, играющие в настольные игры. Знаменитый шахматный
матч между компьютером и чемпионом мира Гарри Каспаровым
закончился победой машины. Сейчас искусственный интел¬
лект играет важную роль в развитии науки, особенно в рамках
концепции Интернета вещей, ведь недостаточно только со¬
бирать данные, необходимо их обрабатывать и анализировать,
действовать в тех случаях, когда человек этого сделать не может
или когда ему могут понадобиться для произведения подобных
вычислений если не столетия, то десятки лет...
Мы упомянули о том, что двоичный код стал основой для
первых языков программирования. Люди старшего поколения
помнят эти «шаманские» названия — «Бейсик», «Фортран».
С них начиналась эра компьютеризации. Однако появлялись
новые задачи, для которых требовалась и новая языковая среда.
Описание сложных явлений заставило усложнить и язык раз¬
работчика. Для создания программ искусственного интеллекта
существуют следующие специализированные языки програм¬
мирования: AIML, IPL (самый первый язык программирова-

36 Глава 2. На плечах гигантов
ния для искусственного интеллекта), Lisp, Smalltalk, STRIPS,
Planner, POP-11, C++, Haskell, Prolog, Python (последние широко
используются сегодня). Их сравнение или анализ лежат за рам¬
ками этого повествования, поэтому просто отметим, чем на¬
деляется искусственный интеллект благодаря этому инструмен¬
тарию.
Сегодня искусственному интеллекту подвластны: анализ и
решение проблем, возможность самообучения, способность
воспринимать, воспроизводить человеческую речь, двигаться
и планировать параметры движения. Обработка данных, робо¬
тотехника, логистика, распознавание речи, постановка меди¬
цинского диагноза и многое другое уже привычно существует в
области, именуемой «машинный разум». Однако искусственный
интеллект, как и человеческий мозг, не может жить в отрыве
от «тела». Центральным понятием в ИИ является агент. Под
агентом подразумевается то, что воспринимает окружающую
среду и воздействует на нее через исполнительные механизмы.
Например, в Интернете вещей и робототехнике это восприятие
происходит через различные датчики — так же, как в живом
организме действуют наши органы чувств, рецепторы, распо¬
ложенные на коже.
Искусственный интеллект используют и для создания тре¬
нажеров и летательных аппаратов в авиации, и при разработке
новейших транспортных средств в целом. В робототехнике
системы искусственного интеллекта внедряются в различных
чат-ботах, устройствах для развлечения, например при создании
самообучающихся щенков-роботов. А в Калифорнийском уни¬
верситете искусственный интеллект используют для решения
социально значимых проблем, например для борьбы с бездом¬
ностью.
Прежде чем переходить к рассмотрению перспектив ис¬
пользования искусственного интеллекта в Российской Фе¬
дерации и зарубежных странах, необходимо определить само
изучаемое понятие. Мы уже упоминали о разнообразии за¬
дач, решаемых ИИ, и сложности дать какое-то одно его обо¬
снование. Это связано с тем, что искусственный интеллект
выступает основой создания цифрового рынка, настоящей
цифровой вселенной. Именно поэтому ученые стараются от-

Глава 2. На плечах гигантов
личать искусственный интеллект от такого термина, как «ис¬
кусственное сознание» или, как его еще называют, «вычисли¬
тельный интеллект». Применение искусственного интеллекта
обусловлено прежде всего задачами определенной имитации
творческих способностей человека, а также свойственных
ему образцов поведения в определенных видах деятельности.
В свою очередь, искусственное сознание, именуемое также
машинным либо синтетическим сознанием, представляет со¬
бой сферу, которая обладает тесной связью с искусственным
интеллектом и когнитивной робототехникой. Как следствие,
искусственное сознание является более широким понятием,
нежели искусственный интеллект. Их фундаментальным
отличием выступает присущая искусственному сознанию
неограниченная возможность развития. Таким образом, ис¬
кусственное сознание обладает потенциальной возможностью
прогрессировать без участия человека. В свою очередь, ис¬
кусственный интеллект просто имитирует мыслительные про¬
цессы, свойственные человеку, это происходит уже на стадии
разработки подобных систем. Работа последних формируется
на основе определенных алгоритмов, т.е. в пределах, ограни¬
ченных условиями, которые задаются программе ее разработ¬
чиком.
Таким образом, искусственный интеллект можно понимать
как способность компьютера успешно решать задачи, с вы¬
полнением которых обычно справляются разумные существа.
Иными словами, действия разработчиков искусственного
интеллекта заключаются в «обучении» машин и компьютеров
тем интеллектуальным навыкам, которые свойственны чело¬
веческой деятельности: поиск смыслов, аналитика и синтез
материала, исправление ошибок и даже способность к рас¬
суждению.
В то же время, так как человеческое сознание является
результатом взаимодействия личности с окружающей действи¬
тельностью, оно позволяет ей научиться реагировать на им¬
пульсы, посылаемые внешним миром, формирует ее поведение,
действуя при этом как бы вне человека, выходя за границы его
физического тела. В этом смысле оно действует по принципу
искусственного интеллекта.

38 Глава 2. На плечах гигантов
Выход искусственного интеллекта «в люди» невозможен без
материальных носителей машинного разума — высокопроизво¬
дительных вычислительных систем. Развитие суперкомпьютеров
и особенно программного обеспечения, которое могло бы об¬
учить машину, стало одной из материальных основ деятельности
«нематериального» мозга.

Людям, решившимся действовать,
обыкновенно бывают удачи;
напротив, они редко удаются
людям, которые только
и занимаются тем, что
взвешивают и медлят.
Геродот, отец истории

ГЛАВА 3
ВСЕЛЕННАЯ В НАЛАДОННИКЕ:
И ШВЕЦ, И ЖНЕЦ, И НА ДУДЕ
ИГРЕЦ
Появление современных компьютеров. Рост производительности
вычислений. Создание мейнфреймов и квантовых компьютеров.
Встраивание элементов искусственного интеллекта в носимые
гаджеты и бытовую технику. Машина играет в шахматы с чело¬
веком. Нейронные сети.
Современный человек, сам того не замечая, оказался втянутым
в орбиту притяжения искусственного интеллекта. Вот лишь пара
картинок, подсмотренных в московском метро. Перед прохо¬
дом через турникет я привычно вынул свою карту и собрался
приложить ее к желтому кружку на панели. А рядом со мною
молодой человек просто остановился на секунду, пристально
глядя в висящий над турникетом прямоугольный предмет, и тут
же перед ним раскрылись стеклянные створки: проезд оплачен!
Система распознавания лиц считала изображение и дала добро
на проход. У молодого человека оказалась привязанной к техно¬
логии Face ID либо карта «Тройка», либо карта одного из банков.
Источник — URL: https://habr.com/ru/articles/745512/

Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец 41
Вторую картинку я наблюдал уже в вагоне подземки. Девоч¬
ка с невероятной быстротой прикасалась к экрану смартфона,
строча кому-то длинное сообщение. Услужливая система Т9
мгновенно подбирала слова. Получался своеобразный диалог
человека и машины, которая, казалось, заглянула в душу юной
пассажирки...
С автоподстановкой слов по контексту мы регулярно сталки¬
ваемся, когда пишем что-либо в текстовом процессоре. Искус¬
ственный интеллект, пусть даже низкого уровня, автоматически
проверяет грамматику, подсказывает варианты слов исходя из
вводимого контекста. И такие встроенные технологии оказы¬
ваются достаточно востребованными, а в ряде случаев служат
надежной палочкой-выручалочкой нерадивым ученикам, про¬
пускавшим занятия по родной речи. Или помогают грамотно
писать на иностранном языке, благо лингвистическая база у
них обширная.
Искусственный интеллект, знаем мы об этом или нет, прочно
занял позиции в нашей повседневной жизни. Миниатюри¬
зация вычислительной техники привела к феноменальному
результату. Элементы ИИ прописались не только в смартфонах
и компьютерах, но и в прикладных программах, которыми мы
стали пользоваться. А на днях появилось сообщение о том, что
несколько выходцев из компании Apple в рамках технологиче¬
ского стартапа создали новый гаджет, который прикрепляется
к одежде с помощью крохотного магнита. Застежка служит и
сменным аккумулятором. Малютка, выполненная в виде бро¬
ши, располагает не только целым рядом технических устройств,
но и искусственным интеллектом. Устройство даже названо
амбициозно AIPin. Персональный помощник вооружен микро¬
фоном, камерой, несколькими датчиками глубины и движения,
позволяющими ориентироваться в пространстве. Управляется
он голосом, а отсутствие дисплея не помеха: крошечный про¬
ектор передает изображение... на ладонь. Или любую другую
поверхность. Оснащенность «железа» малютки могла бы вызвать
зависть у любого гаджетомана еще десять лет назад: восьмиядер¬
ный процессор, 4 ГБ оперативной памяти и 32 ГБ памяти «на
борту», все виды связи и GPS! И все это управляется собствен¬
ной операционной системой CosmOS. Специальная программа

42	Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец
обеспечивает подключение AI Pin к моделям искусственного
интеллекта, разработанным компаниями Microsoft и OpenAI.
Многие наряду с другими поисковиками используют поис¬
ковую систему «Яндекс». Она гибко подстраивается под ваши
интересы. И после одного-двух обращений начинает самосто¬
ятельный подбор тем. Я обращал внимание на несколько раз
выпадавшие сообщения: «Мы подготовили ленту новостей в
соответствии с вашими запросами». И действительно, стоило
набрать в поисковой системе запрос о ремонте автомобилей
в своем районе, как тут же выплывали десятки объявлений от
компаний, занимающихся починкой четырехколесного друга.
Меня такая услужливость не сильно удивляет. Четверть века
назад я познакомился с технологиями недавно пришедшей
в нашу страну компании SAS Institute. Знакомство началось с
шутки: я сказал представительнице, у которой был приколот
значок SAS, что год назад летал на самолетах этой шведской
авиакомпании в Норвегию. Но женщина меня поправила: «Мы
айтишная компания, а SAS расшифровывается как Statistical
Analysis System». Так состоялось мое знакомство с компанией
мирового уровня из Северной Каролины, которая занимается
разработкой программного обеспечения для сбора статистики и
business intelligence (получением бизнес-информации). Именно
от специалистов компании я впервые узнал о новой разработке,
названной витриной данных, которая предназначена для работы
в интернет-магазинах. Благодаря большим данным, которыми
оперирует искусственный интеллект, владельцы предприятий
интернет-торговли имеют возможность размещать на своих пор¬
талах сведения о миллионах товаров. Вы ходите по виртуальному
торговому залу и выбираете необходимую вам вещь. Оплатив
покупку, указываете свой адрес или ближайший пункт выдачи
и ожидаете прибытие товара. Благодаря такой технологии че¬
ловек экономит самое драгоценное, что у него есть, — время.
Эту технологию стали использовать практически все поисковые
системы, и отечественные, и зарубежные.
Виртуальные витрины товаров и услуг самого широкого ас¬
сортимента сегодня используются даже там, где, казалось, они
не найдут применения.

Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец 43
Недавно прошло сообщение о том, что искусственный ин¬
теллект начали активно использовать туристические компании.
Кто раньше выезжал на отдых или экскурсию в другие страны,
в офисах туроператора обязательно видел громадные атласы с
цветными иллюстрациями, в которых размещалась информация
об отелях, исторических достопримечательностях той или иной
страны. Сегодня виртуальный гид может вам не просто рас¬
сказать, но и показать место будущего отдыха, самостоятельно
подберет интересные экскурсии, забронирует номер, закажет
трансфер. И все это с учетом ваших конкретных предпочтений.
В повседневной жизни мы оставляем в Интернете сотни са¬
мых разных следов — от текста обычной эсэмэски до персональ¬
ных данных гражданина. Отдельно стоят наши предпочтения
в еде, одежде, развлечениях. Для вдумчивого аналитика такие
данные представляют обширное поле, позволяющее составить
психологический портрет клиента. И организаторы туристиче¬
ского бизнеса этим начали активно пользоваться. Big Data для
рынка туризма — это и банки, и телеком-, и digital-компании
(поисковики, агрегаторы путешествий, ресурсы для брониро¬
вания отелей или съемных квартир, планирования маршрутов и
покупки билетов и экскурсий), соцсети. Получается огромный
массив агрегированной информации. Изучая ее, можно понять,
к какому типу принадлежат путешественники, куда, как часто,
как далеко они ездят, какие регионы предпочитают разные
группы населения, а также оценить структуру трат.
Такая информация имеет большое значение для туристи¬
ческой отрасли. Например, на основании анализа поведения
туристов, посещающих озеро Байкал, были даны рекомендации
для местных властей по развитию инфраструктуры, строитель¬
ству новых отелей, соблюдению требований экологии. В особо
охраняемой зоне были построены новые очистные сооружения,
усилился контроль за состоянием сточных вод. И все это благо¬
даря вниманию со стороны искусственного интеллекта.
Как может происходить реальное использование возможно¬
стей искусственного интеллекта, рассказал один из руководите¬
лей проекта предиктивной аналитики известного туроператора:
«Мы проанализировали все имеющиеся данные по клиентам:
историю их интересов, покупок, кликов на сайте, подписок,

44	Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец
отписок, обращений и т.п., то есть проанализировали поведен¬
ческие паттерны; мы разработали инструмент формирования
портрета клиента. Далее с аналогичными подходами, только
со стороны продукта, составили портрет продукта. После до¬
бавления механизма объединения полученных данных роди¬
лась рекомендательная система, которая после интеграции с
маркетинговой платформой и сайтом стала помогать клиентам
с выбором туров. В итоге все то, что раньше мы делали руками,
теперь решается с помощью машинного обучения».
По данным исследования VKCloud и Arenadata, проведенного
в 2022 году, уже 62% крупных российских компаний внедрили
решения в области Big Data.
Внедрение ИИ идет примерно теми же темпами. Ежегод¬
ное исследование международной консалтинговой компании
McKinsey свидетельствует о том, что доля компаний, которые
в 2022 году внедрили искусственный интеллект в свою работу,
составила от 50 до 60% и в два раза превысила аналогичный по¬
казатель 2017 года. Компании, использовавшие возможности ИИ,
сообщали о значительном снижении затрат и увеличении доходов.
Работы в области искусственного интеллекта — весьма затрат¬
ное направление научно-технического прогресса. Ведь наряду
с чисто программными решениями деятельность нейросетей,
хранилищ информации и средств передачи данных требует про¬
изводства высокопроизводительной компьютерной техники,
зачастую использующей новейшие достижения фундаменталь¬
ной и прикладной науки. А такое могут себе позволить только
наиболее мощные в финансовом плане экономики. Наиболее
перспективными с точки зрения развития искусственного интел¬
лекта странами, кроме России, считаются КНР, Япония, США,
Франция, ОАЭ, а также Нидерланды.
В этой связи интересно проследить за нашим юго-восточным
соседом — Китаем. «Всемирная компьютерная фабрика» не про¬
сто сосредоточила на своей территории основные производства
микроэлектроники, но и стала задавать тон в создании высоко¬
производительных сетей связи. Отойдя от простого копирования
образцов техники, Китай сосредоточился на перспективных
разработках, используя не столько заимствованные технологии,
сколько собственный интеллектуальный и производственный

Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец 45
потенциал, и начал составлять серьезную конкуренцию передо¬
вым державам в области развития искусственного интеллекта.
В первую очередь это обусловлено стремлением страны за¬
крепить за собой место научно-технической сверхдержавы, ве¬
дущего центра инноваций в области искусственного интеллекта,
а также лидера по внедрению разработок искусственного интел¬
лекта в промышленность. Наряду с военным делом и производ¬
ственным сектором искусственный интеллект в Китае активно
используется в судебной, социальной и медицинской сферах.
Еще в 2017 г. Китай решил активно развивать искусственный
интеллект нового поколения, ориентируясь при этом на такие
страны, как США, Япония и Великобритания.
Достаточно оптимистичные оценки перспектив развития
искусственного интеллекта в Китае обусловлены значитель¬
ной поддержкой со стороны правительства, которая привела к
тому, что страна вплотную приблизилась к мировому лидеру в
области ИИ — США. Согласно статистическим данным, еще в
2020 г. КНР затрачивала на развитие искусственного интеллек¬
та в 350 раз больше, нежели Россия, что позволяет не только
констатировать высокий уровень его применения сегодня, но
и прогнозировать дальнейшую прогрессивную динамику.
Относительно Японии стоит заметить, что эта страна в
числе первых в 2016 г. приступила к разработке национальной
стратегии развития искусственного интеллекта. Изначально
предполагалось, что искусственный интеллект будет внедрен
во все отрасли, в частности в финансы, здравоохранение, роз¬
ничную торговлю, в силу чего будет оказывать положительное
воздействие на развитие страны, позволит преодолеть пери¬
од экономического спада. В 2018 г. Япония затратила около
370 млн долл. на разработку чипов и компьютеров будущего
поколения, которые должны применяться в робототехнике, а
также при разработке технологий искусственного интеллекта.
Сегодня на территории страны действует большое количество
научно-исследовательских центров и лабораторий, отвечающих
за разработки в области искусственного интеллекта.
Признанным лидером в области технологий искусственного
интеллекта остаются США. Задача сохранения позиций миро¬
вого лидера во многом решается страной через развитие про-

46	Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец
грессивных технологий. В первую очередь США стремятся к
внедрению искусственного интеллекта в военное дело, а также
в здравоохранение и медицину, судебную систему. На первый
взгляд, это позволяет оценить положение страны в сфере разви¬
тия технологий искусственного интеллекта как безусловно лиди¬
рующее, принимая во внимание наличие сильных конкурентов в
лице Китая, Японии и других государств. Вместе с тем разработки
США далеко не всегда соответствуют международным нормам в
том случае, если речь идет об инновациях искусственного интел¬
лекта в военном деле. При этом стоит также учитывать все более
возрастающее технологическое и информационное могущество
Китая, которое может составить существенную конкуренцию
американским разработкам. Наконец, необходимо принять
во внимание, что развитие искусственного интеллекта в США
встречает больше барьеров в сопряжении потенциала военного
и коммерческого секторов, нежели в Китае.
Наша страна с принятием национальной программы раз¬
вития искусственного интеллекта на период до 2030 года имеет
большие перспективы. Осознание правительством необходи¬
мости дальнейших вложений в сферу высоких технологий в
Российской Федерации сочетается со стремлением населения,
организаций и предприятий активно применять их в повсе¬
дневной жизни. Налоговые льготы, грамотно выстроенная со¬
циальная политика в отношении сотрудников компаний, кото¬
рые работают в области ИИ, приводят к неплохим результатам.
Появляется все большее количество отечественных гражданских
продуктов и изделий, созданных с использованием возможно¬
стей, технологий и систем искусственного интеллекта. Жители
России каждый день сталкиваются с ними и учатся использовать
в производственной деятельности, творчестве и быту.
Эти примеры наглядно показывают возросшую роль ИИ в
жизни современного общества. Новая технология решительно
проникает в те области, которые раньше казались лишь уделом
человека. Например, медицинская диагностика. В ее основе
лежит знание о строении человека, назначении и функциях вну¬
тренних органов, их взаимодействии. Будущий врач должен по¬
лучить общие медицинские знания и завершить специализацию

Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец 47
по более узкой профессии, пройти стажировку в медицинском
заведении. Хирурги должны ассистировать опытным специали¬
стам во время операций. Хороший врач выковывается годами.
В здравоохранении столицы широко используются элементы
искусственного интеллекта. Компьютер помогает в правильном
определении диагноза заболевания, видит развитие болезни в
начальной стадии, что помогает полностью излечить пациента.
Но, чтобы научить машину правильно ставить медицинские
диагнозы, нужно собрать большую выборку прецедентов. Нужно
проанализировать тысячи историй болезни, присоединить ре¬
зультаты лабораторных исследований, учесть тип применяемых
приемов лечения или необходимые лекарства. Справиться с
этим потоком данных может только высокопроизводительная
вычислительная техника.
Одним из пионеров нового направления стал выдающийся
ученый XX века, первопроходец информатики и кибернетики,
идеолог цифрового государства академик АН СССР В.М. Глуш¬
ков (1923—1982). Виктор Михайлович известен своими научны¬
ми результатами мирового значения в математике, информатике
и кибернетике, вычислительной технике и программировании,
созданием в этих областях науки собственных школ.
Академик АН СССР В.М. Глушков
(источник — URL: https://pikabu.ru/story/avtomatizatsiya
tvorcheskogo_protsessa_po_vm_glushkovu_9737945)

48	Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец
За разработку теории цифровых автоматов и создание много¬
процессорных макроконвейерных супер-ЭВМ международная
организация IEEE Computer Society в 1996 г. посмертно удостоила
В.М. Глушкова медали Computer Pioneer.
Глушков выступал с новыми идеями построения интеллекту¬
альных систем (систем искусственного интеллекта) типа «глаз —
рука», «читающий автомат», «самоорганизующаяся система», си¬
стем автоматизации математических доказательств. Он работал
над компьютерными системами имитационного моделирования
таких процессов интеллектуальной деятельности, как принятие
решений, отображение состояния и ситуаций в экономических,
технических, биологических и медицинских системах. Виктор
Глушков активно пропагандировал практический подход к
проблеме искусственного интеллекта как к делу, объективно
вызванному к жизни растущей мощью ЭВМ и проникновени¬
ем их во все сферы человеческой деятельности. Он считал, что
последовательное накопление знаний и эффективные способы
их обработки, развитие интеллектуальных способностей ЭВМ
обеспечат прорыв в развитии цивилизации и переход к инфор¬
мационному обществу.
О многом говорит такое высказывание Виктора Михайло¬
вича: «...Искусственное зрение и слух — важная часть работ в
области создания искусственного интеллекта. Здесь главным,
конечно, является зрение, поскольку наибольшее количество
информации человек получает благодаря ему. Для этого я при¬
гласил В.А. Ковалевского из Харькова, который и организовал
работу по распознаванию образов. Первым результатом его
работы стал автомат для чтения машинописных букв и цифр.
Он был выпущен малой серией (пять или восемь штук) из-за
дороговизны, с перфокартами ему было конкурировать трудно.
Затем Т.К. Винцюк занялся распознаванием речи, которым мы
прикрыли направление по созданию сенсорной части роботов».
В мире сегодня делают ставку на суперкомпьютеры, обла¬
дающие поразительным быстродействием. Суперкомпьютеры
и искусственный интеллект — две стороны одной медали. Под
ИИ в первую очередь понимается машинное обучение ней¬
ронных сетей на основе больших данных, а для этого нужны
быстродействующие машины, способные обрабатывать дан-

Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец 49
ные Big Data. Например, для машинного обучения ChatGPT-4
использует суперкомпьютер Azure AI с производительностью
около 30 петафлопс.
Еще недавно сенсацией стали мейнфреймы, разработанные
компанией IBM. Их мощность позволяла производить операции
для целых отраслей промышленности и транспорта, напри¬
мер железных дорог. В ОАО «Российские железные дороги»
супермашины управляют движением поездов на обширном
полигоне от Калининграда до Владивостока. Для нескольких
таких машин на каждой железной дороге построены особые
помещения с собственным микроклиматом, экранированием
и сейсмостойкостью...
Но вычислительных мощностей даже таких машин уже не¬
достаточно для работы нейронных сетей. Появились квантовые
компьютеры, а сегодня идет разработка фотонных ускорителей
с умопомрачительной производительностью. Над созданием
фотонных ускорителей работают исследователи во всем мире.
В России этим направлением занимаются, например, Самарский
национальный исследовательский университет и Научный центр
физики и математики в знаменитом атомграде Сарове. Первые
прототипы фотонных ускорителей там рассчитывают получить
уже до конца 2025 года.
На базе Национального центра физико-математических
исследований в Сарове в кооперации с ведущими институтами
и вузами страны ведутся работы над созданием отечественных
суперкомпьютеров нового поколения, в первую очередь фотон¬
ных машин со сверхвысокой производительностью вплоть до
100 экзафлопс. В 2024 году там должна заработать лаборатория
фотонных суперкомпьютеров. «Но даже современные суперком¬
пьютеры не всегда могут обеспечить нужный темп машинного
обучения. И здесь нам могут помочь фотонные вычислители,
поскольку они позволяют существенно сократить время пере¬
множения вектора на матрицу, а именно этот тип операций
составляет львиную долю (до 90%) процессов машинного об¬
учения», — считает Игорь Каляев, доктор технических наук,
академик РАН.
Как использовать подобный необыкновенный потенциал ис¬
кусственного интеллекта? Мнения на этот счет разные. Одни в

50 Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец
восторге от этого универсального инструмента и видят в нем чуть
ли не идеального помощника. Другие опасаются, что его фанта¬
стические способности представляют опасность для человека.
ИИ решает логические и несложные математические задачи,
исправляет собственные ошибки после небольшой подсказки,
манипулирует собеседником и... уверенно лжет. Нейросети на¬
учились худшему из присущего живому человеку! Поэтому на их
создателей ложится гигантская ответственность, ведь наиболее
успешные модели скоро будут обслуживать многомиллиардную
многоязычную аудиторию.
Ответ на такие сложные вопросы дает наше научное сообще¬
ство. В 2012 году был создан Фонд перспективных исследований.
Его деятельность направлена на содействие осуществлению
научных разработок в сфере инновационных технологий и
производства высокотехнологичной продукции военного,
специального и двойного назначения. Технический комитет
по стандартизации № 164 («Искусственный интеллект») воз¬
главляет Сергей Гарбук, под руководством которого разрабаты¬
вались правила и методы оценки первых проектов по созданию
технологий, которые мы называем искусственным интеллектом.
В результате деятельности технического комитета была разрабо¬
тана серия национальных стандартов в области ИИ.
Стандарты в первую очередь направлены на то, чтобы выпол¬
нить миссию технического комитета — унифицировать методы
испытания ИИ, гарантировать предсказуемый и достаточно
качественный результат эксперимента.
Все началось с систем распознавания лиц в сложных услови¬
ях, например когда человек, которого нужно узнать, противо¬
действует этому. Следующим шагом стало распознавание речи, а
затем — дешифрирование космических объектов, распознавание
снимков, полученных из космоса и с беспилотных летательных
аппаратов. В 2015 году еще не было выработано признанных
сообществом унифицированных процедур оценки качества
таких технологий. В результате, если нужно было сравнить
технологии ИИ двух разных разработчиков, скажем, в области
распознавания речи, возникала сложная ситуация. Заказчик
слушает разработчика, а тот утверждает, что у него вероятность
правильного распознавания, допустим, 99% и доказывает это на

Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец 51
своей тестовой модели. Следом приходит другой разработчик и
на основе уже своей тестовой выборки показывает, что и у него
вероятность правильного распознавания 99%.
На чьей стороне истина? Именно с этими целями и начали
разрабатывать национальные стандарты. Мы уже знаем, что
даже самые продвинутые программные продукты для искус¬
ственного интеллекта базируются на определенной логике. Ей
подчиняется даже нейросеть, какой бы мощной и талантливой
она ни казалась.
Поэтому члены комитета стали проводить, как сейчас на¬
зывают, технологические конкурсы. То есть готовили пред¬
ставительные тестовые наборы данных для прикладных задач
по распознаванию лиц, речи, объектов и изображений и к
этим наборам предлагали методики измерения результатов.
И в какой-то момент поняли, что это и есть стандартные испы¬
тания искусственного интеллекта, выполняющие очень важную
миссию — сравнение функционально подобных технологий
и выявление лучших из них. Более того, стало понятно, что,
когда речь идет об автоматизации человеческой деятельности,
необходимо ответственно заменить человека на компьютер,
а значит, иметь возможность сравнить не только программу с
программой, но и действия программы с действиями человека,
который прежде решал эту задачу вручную и зачастую неплохо.
Это и натолкнуло на мысль, что методики следует превращать в
национальные стандарты, делать их публичными, доступными
для сообщества.
Подобным образом действуют и в наиболее развитых странах,
работающих над созданием систем искусственного интеллекта.
Обмены полученными данными способствуют гармонизации
национальных стандартов и в некоторых случаях обеспечивают
информационную безопасность.
А вот как быть с нравственной компонентой? Недавно стала
достоянием гласности курьезная история о выпускнике Россий¬
ского государственного гуманитарного университета, который
написал дипломную работу с помощью чат-бота ChatGPT и
успешно защитил ее. Преподаватели, правда, машинному «сту¬
денту» поставили только троечку, но прецедент был создан. А сам
факт привлечения искусственного интеллекта к получению

52 Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец
знаний вызвал широкий резонанс. Подключилось и ученое со¬
общество, и даже министерство высшего образования. Ситуация
напомнила давние годы, когда школьников ловили за исполь¬
зование шпаргалок, хотя студент сам признался, что большую
часть работы за него скомпилировала программа, потратившая
на это около суток.
Министр высшего образования по поводу случившегося вы¬
сказал здравую мысль. Попросил вуз не наказывать студента, а
вот саму систему оценивания качества образования рекомен¬
довал пересмотреть. Сегодня активно используются такие про¬
граммные продукты, как «Антиплагиат», с помощью которых
сканируется текст и выявляются заимствования. Интернет ведь
помнит все!
Пока вузы не собираются контролировать использование
нейросетей студентами, да и говорить о совершенстве искус¬
ственного интеллекта рано. Но учебные заведения уже поняли,
что необходимо давать учащимся оригинальные индивидуаль¬
ные задания, кейсы, расчеты для самостоятельного выполнения.
Только в этом случае возможно получение и использование
подлинных знаний.
Посмотрите на следующую формулировку проекта создания
машины, позволяющей анализировать и автоматически соз¬
давать тексты: «... цель... заключается в усовершенствовании
умозрительного знания при помощи технических и механиче¬
ских операций.» И далее: «.самый невежественный человек,
произведя небольшие издержки и затратив немало физических
усилий, сможет писать книги по философии, поэзии, политике,
праву, математике и богословию при полном отсутствии эруди¬
ции и таланта».
Думаете, это идет речь о нашем горе-выпускнике? Нет! Это
написал Джонатан Свифт в 1726 году. Уже тогда лучшие умы
понимали, как много значат для человечества подлинность
полученных знаний и моральная ответственность каждого, кто
ими пользуется.
Мы уже упомянули о роли стандартов в выработке точных и
недвухзначных трактовок в методах разработки систем искус¬
ственного интеллекта. Учитывая доступность как компьютерных
мощностей, так и прикладного программного обеспечения,

Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец 53
технологии искусственного интеллекта нуждаются в особом
контроле. Несколько приведенных выше примеров лишь под¬
тверждают необходимость такого подхода.
Многие из киноманов с удовольствием смотрят фильмы, в
которых герои попадают в экзотическую обстановку или парят
и сражаются в воздухе без помощи технических средств. Такие
кадры стали возможными с применением компьютерных техно¬
логий и нехитрых приспособлений в виде зеленого или синего
хромакея. На его фоне снимается актер, а затем программист
за компьютером подставляет необходимое — пышные антич¬
ные строения или детали космического корабля. Иногда это
добавляет зрелищности, иногда вызывает досадную гримасу у
мало-мальски образованного человека. Это когда города-кре¬
пости осаждают сотни тысяч воинов... Но такова индустрия
развлечений с ее собственными подходами к отражению до¬
стоверности. Подчас же шалости искусственного интеллекта,
попавшего в руки морально нечистоплотного человека, могут
обернуться большой трагедией.
Речь идет о модном сейчас явлении — дипфейке. Представьте
на минуту, что вы смотрите телепередачу, она вдруг прерывает¬
ся, и на экране появляется лидер страны, который объявляет,
что сопредельное государство бомбит ваши города, а его армия
вторглась на территорию и стремительно продвигается к столи¬
це. Что за этим последует? Паника! Миллионы людей сорвутся
со своих насиженных мест в поисках безопасного убежища...
Кстати, именно так и было в США в тридцатых годах двадцатого
века, когда по радио начали транслировать отрывки из фанта¬
стического романа Герберта Уэльса «Война миров» о высадке
марсиан на Землю.
Все это стало возможным благодаря технологии «дипфейк»
(англ. deepfake), которая способна сгенерировать любое видео,
поместить цифровой клон в произвольный виртуальный мир.
Искусственный интеллект, оперируя миллионами образов, за¬
груженных в его память, открывает необыкновенный простор
для творчества. Создатель таких обманок может по своему
желанию окружить нас любой обстановкой, выбрать в собесед¬
ники любого персонажа, и подобные диалоги, сгенерированные
машиной, будут казаться подлинными.

54 Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец
Собственно технология «дипфейк» появилась из возможно¬
сти менять один образ на другой. В одну из графических систем
еще тридцать лет назад была встроена функция превращения
объектов. За 3—40 промежуточных шагов, к примеру, слон мог
превратиться в мышь. Отрисовка этой метаморфозы фиксиро¬
валась на каждом этапе, и все превращение можно было зафик¬
сировать на картинке. Сегодня нечто подобное нам предлагают
разработчики развлекательных программ для смартфонов или
планшетов. С их помощью вы можете менять на фотографии вы¬
ражение лица, приделывать другую одежду, изменять прическу и
многое другое. А современные речевые технологии, способные
распознавать речь, могут также искусственно создавать новые
голоса. У одной из компаний, которые занимались речевыми
технологиями, были программы «Голос-диктор» и «Голос-ано¬
ним». Первая распознавала речь на нескольких наиболее по¬
пулярных языках, вторая могла синтезировать слова, придавая
неповторимый тембр говорящему.
Такие технологии базируются на так называемых трифонах и
бифонах — особых «аккордах» человеческой речи. Эти элементы
описываются математикой как скрытые модели Маркова и уни¬
кальны, как и узоры на подушечках пальцев для дактилоскопии.
При всех подражаниях сочетания трифонов и бифонов остаются
надежным идентификатором уникальности человека.
Однако бывают и злонамеренные использования речевых
технологий. Так, например, одно из таких приложений нанесло
ущерб некоему европейскому банку на сумму свыше 200 000 ев¬
ро. В британский офис банка позвонил немецкий коллега, кото¬
рый попросил срочно перевести деньги на счет некой венгерской
фирмы за поставленный товар. Голос звонившего был хорошо
знаком банковскому клерку, а характерный акцент явно указы¬
вал на германское происхождение. Деньги были переведены и
бесследно исчезли...
Оказалось, что этот разговор был фальсификацией: голос
немца сгенерировала нейросеть. Она оперировала несколькими
записями телефонных переговоров, обучилась имитировать и
акцент, и стиль речи собеседника.
Технология «дипфейк» появилась в результате спора друзей-
компьютерщиков. Один из них предложил написать программу,

Глава 3. Вселенная в наладоннике: и швец, и жнец, и на дуде игрец 55
способную создавать лица несуществующих людей (вспомнили
о феномене Виктора Франкенштейна?). Но результат был ниже
среднего. Компьютер выдавал плохие результаты: то лишний
глаз на лице, то слишком большие уши...
И тогда один из программистов решил противопоставить
искусственному разуму другой такой же разум, но критически
настроенный по отношению к первому. Они начали состязание.
Все искусственные образы, созданные генератором, подверга¬
лись уничижительной разборке дискриминатора. И в результате
глубинного обучения две половинки в итоге стали выдавать
прекрасный правдоподобный материал. Имя этому феноме¬
ну — GAN, генеративно-состязательная сеть (generative adversarial
network). Это алгоритм машинного обучения, построенный на
соревновании двух нейросетей.
Существует несколько прикладных программ, позволяющих
самостоятельно делать дипфейки. В созданных с помощью
алгоритма Face2Face видеороликах пользователи примеряют
на себя лица знаменитостей. «Обманка» создается в режиме
реального времени и искажает мимику выбранной звезды вслед
за мимикой пользователя.
Вроде бы безобидное занятие, но мы же помним высказы¬
вание великого фантазера Свифта, подарившего нам Гулливера
и лилипутов!
Множеством талантов наделен искусственный интеллект.
Дальше мы узнаем о его практическом применении. А пока
делаем для себя очередной вывод: с нейросетью шутки опасны!

Деяние есть живое единство
теории и практики.
Аристотель

ГЛАВА 4
ТО, ЧТО ДОКТОР ПРОПИСАЛ
Современная медицина широко использует возможности искус¬
ственного интеллекта. Развитие телемедицины — от онлайн-
консультаций до ассистирования во время сложных операций. Что
дальше? Что лежит в глубинах человеческого подсознания? Может
ли искусственный интеллект превзойти своего творца?
Человеческий организм до сих пор представляет большую загад¬
ку для исследователей. Самыми закрытыми органами являются
головной мозг и нервная система. Над раскрытием секретов
получения, обработки и хранения знаний бьются лучшие умы
физиологов, психиатров, философов. Как работает мозг че¬
ловека, где размещается интеллект, какой участок отвечает за
творчество, логику, чувства?
Незабвенный доктор в фильме «Формула любви» произнес
запоминающуюся фразу: «Голова — предмет темный, исследова¬
нию не подлежит». Буквально до начала двадцатого века, пока
немецкий физик Вильгельм Конрад Рентген не изобрел свой
аппарат, позволяющий просвечивать тела, способы познать
устройство человека были исключительно уделом патолого¬
анатомов. Еще эскулапы Древнего мира пытались объяснить
функции органов. Они делали выводы на основе тех в основном
механистических знаний, которые были доступны грекам и
римлянам, а затем и врачевателям Арабского Востока, Индии и
Китая. Но врачам рабовладельческого строя удалось выработать
много правил, которые позволяли поддерживать человека в здо¬
ровом состоянии. Чего стоит один лишь постулат знаменитого
Гиппократа «Не навреди!». Его этическими заветами до сих пор
руководствуются медики во всем мире.
Арабы одними из первых создали анатомические карты от¬
дельных органов, мышц, сосудов и тканей, по которым обучались

58 Глава 4. То, что доктор прописал
будущие врачи. Именно это позволило создать анатомический
атлас человека, благодаря которому тысячи студентов-медиков
изучали, да и сейчас изучают, строение тела. Функции каждого
органа удалось исследовать лишь после проведения многочис¬
ленных экспериментов. Эти открытия продолжаются до сих пор,
и члены комитета по Нобелевским премиям Королевской ака¬
демии наук Швеции скрупулезно проверяют характер новизны
подобных исследований прежде, чем отметить золотой медалью
и внушительной премией их авторов.
В последние несколько десятилетий арсенал технических
средств врача обогатился многими приборами, созданными
на основе достижений науки и техники. Наряду с классиче¬
скими рентгеновскими аппаратами в диагностике широко
стали использоваться установки для магнитно-резонансной и
компьютерной томографии. Их преимущество заключается, во-
первых, в более щадящем режиме облучения человека во время
обследования, а во-вторых, в более качественной детализации
обследуемого участка. Компьютер, по сути, делает своеобразную
«нарезку» тела пациента, получая десятки снимков. Это дает воз¬
можность различать даже крошечные изменения, видимые разве
что под микроскопом. Таким образом, врач получает четкую
картину нарушений в организме и выбирает тот или иной способ
лечения. Особенно актуально это для лечения таких болезней,
как рак, инфаркты и инсульты, дефекты тонких сосудов или
нервных окончаний.
Томографы дополнили технический арсенал врача наряду
с ультразвуковым исследованием, зондированием, взятием
анализов, другими клиническими исследованиями. И если ре¬
зультаты рентгеновских просвечиваний возможно было зафик¬
сировать только на фотопленку, то современная медицинская
техника работает с цифровыми данными. Это дает огромные
преимущества, поскольку графические файлы легко поддаются
масштабированию, их можно записать на любой тип носителя
информации, переслать по почте или отправить в облачное
хранилище.
Есть латинский термин consillium. Он буквально означает
«совет, совещание». Как правило, к такой форме врачебного

Глава 4. То, что доктор прописал 59
общения прибегают в сложных случаях, когда трудно поставить
диагноз пациенту или имеются различные варианты врачебного
воздействия. Во все века медики свято следуют завету Гиппо¬
крата, поэтому консилиумы проводятся регулярно, к ним под¬
ключаются врачи разной специализации.
Мне вспомнился такой пример, свидетелем которого до¬
велось быть. Накануне Зимних Олимпийских игр в Сочи в
2014 году компания «Стэл — Компьютерные Системы» провела
телемедицинский сеанс. Оборудование компании было смон¬
тировано в центральной больнице города-курорта и в одном из
фельдшерско-акушерских пунктов поселка Красная Поляна.
На консультацию пришел пациент с сердечно-сосудистым за¬
болеванием. Случай был серьезным, квалификации местных
врачей было недостаточно для оказания экстренной помощи.
И тогда по видеоконференц-связи были вызваны специалисты
Московского национального медицинского исследовательского
центра сердечно-сосудистой хирургии имени А.Н. Бакулева.
Телемедицинский комплекс, включающий в себя не только обо¬
рудование для видеоконференц-связи, но и документ-камеру, и
средства мобильной связи для передачи данных, позволил точно
поставить диагноз и определить лечение заболевания. Жизнь
пациента была вне опасности.
Источник — URL: https://www.shutterstock.com/ru/image-photo/surgeon-
wearing-ar-headsets-using-highprecision-2326276249

60 Глава 4. То, что доктор прописал
Медицина, благодаря целому ряду особенностей, стала одной
из первых областей широкого применения технологий искус¬
ственного интеллекта. Основу такого использования составили,
конечно же, современные диагностические приборы. Они по¬
зволяют рассмотреть тело пациента буквально с детализацией
до клеточного уровня. Более того, изображение, получаемое в
таких аппаратах, выдается в виде трехмерной графики. Врач
видит орган не просто как «вид сверху» или «сбоку», а объем¬
ным, в динамике, что дает возможность сделать более детальный
вывод. Сотни сканов органов позволяют увидеть то, что обычно
скрыто от глаза врача.
Статистика — вещь точная, с нею не поспоришь. Согласно
последним данным, более 70 субъектов России закупили ме¬
дицинские аппараты с модулями искусственного интеллекта.
Наиболее широко ИИ используется там, где необходим анализ
большого числа данных, например, рентгеновских снимков. Это
связано с лечением болезней опорно-двигательного аппарата и
профилактикой раковых заболеваний. И в том и в другом случае
искусственный интеллект способен выдавать достаточно точные
прогнозы.
Например, в Научно-исследовательском центре имени Гер¬
цена врачи-онкологи работают в паре с хирургами-онкологами.
Первые, используя новейшее оборудование, определяют с по¬
мощью ИИ степень развития раковых клеток, вторые в кратчай¬
шие сроки выполняют операции по удалению злокачественных
новообразований.
Отмечается, что на уровне живой клетки ИИ применяется
в биоинформатике, биотехнологических и медицинских ис¬
следованиях, дизайне лекарственных препаратов. С помощью
нейросетей ученые и клиницисты расшифровывают после¬
довательность ДНК организмов, ищут вредоносные мутации
в геноме, обрабатывают различные омикс-данные и создают
лекарства, нацеленные на определенные биологические мишени
в живых организмах.
Центр диагностики и телемедицины Департамента здраво¬
охранения Москвы в содружестве с научными центрами и ком¬
паниями — разработчиками специализированного программ¬
ного обеспечения создают новейшие технологии, которые не

Глава 4. То, что доктор прописал 61
только применяются в столице, но и направляются в российские
регионы. Искусственный интеллект спасает многие человече¬
ские жизни, не только помогая в правильной диагностике, но
и управляя медицинским оборудованием в роботизированных
комплексах.
Конечно, ИИ привносит известную сложность в деятель¬
ности медицинских учреждений. Прежде всего существует
врачебная этика, а в последнее время обострилось внимание и
к сохранности персональных данных граждан. Медицинская
статистика является носителем многих секретов, поэтому к
телемедицинским и нейросетям предъявляются повышенные
требования по защите конфиденциальной информации. Для
этого защищаются каналы связи, внедряются специальные
шифровальные ключи, которые надежно защищают инфор¬
мационную среду больниц от возможных кибератак или не¬
санкционированного доступа к базам данных. К разработкам
специализированных программ подключились и нетрадици¬
онные компании. Так, например, Сбербанком было разрабо¬
тано приложение «СберЗдоровье». Оно использует ИИ для
распознавания опасных симптомов у пациентов — клиентов
Сбера. В приложение вводятся данные о состоянии больного,
перечисляются симптомы и показатели самочувствия. Перед
онлайн-консультацией искусственный интеллект предполагает
диагнозы и, исходя из этого, советует клиенту врача. Традици¬
онная медицина имеет четкую специализацию по основным
видам заболеваний либо органов человека. И машине под силу
на основании анализа многих данных выставить предвари¬
тельный диагноз, который затем будет уточнен у профильного
специалиста.
В России разрабатывается около 50 национальных стандартов
в области искусственного интеллекта (ИИ) в здравоохранении.
Координировать разработку будет уже знакомый читателю
Технический комитет по стандартизации «Искусственный ин¬
теллект» (ТК 164), созданный на базе Российской венчурной
компании.
Согласно перспективному плану работы ТК 164, до 2027 года
планируется разработать стандарты в области искусственного
интеллекта в здравоохранении по отдельным направлениям,

62 Глава 4. То, что доктор прописал
включая общие требования и классификацию систем ИИ в
клинической медицине, лучевой и функциональной диагно¬
стике, гистологии, реконструкции изображений в диагностике
и лечении, системах дистанционного мониторинга и поддержки
принятия врачебных решений (СППВР), больших данных в
здравоохранении, медицинских систем аналитики и прогнози¬
рования, образовательных программ.
По словам председателя Технического комитета «Искус¬
ственный интеллект» Сергея Гарбука, здравоохранение является
одной из областей, стандартизация технологий ИИ в которых
наиболее актуальна. Объясняется это, во-первых, опасностью
последствий от использования в клинической практике систем
ИИ с негарантированным качеством, а во-вторых, высокой
технологической зрелостью разработок в этой области. У нас в
стране насчитывается несколько десятков компаний, предлагаю¬
щих весьма продвинутые интеллектуальные системы обработки
медицинской информации.
А что за рубежом?
Сотни разработок стартапов на основе искусственного ин¬
теллекта, которым место скорее в сказках или на страницах
романов, ворвались в нашу жизнь. Исключение не составляет и
медицина, самая консервативная наука. Хирургические опера¬
ции с дополненной реальностью, лазерные скальпели, неразли¬
чимые датчики, которые могут контролировать и анализировать
многие функции и процессы жизнедеятельности организма,
генная терапия, создание новых высокоэффективных лекарств,
роботы-сиделки — вот далеко не полный перечень возможно¬
стей, воплощенных в высоких технологиях.
Одним из первых опытов использования ИИ стала компью¬
терная программа Eliza. Ее создал в 1964 г. специалист в области
информатики Джозеф Вейценбаум. Eliza была способна отвечать
на текстовые сообщения, набранные на естественном языке,
имитируя диалог между пользователем и психотерапевтом. Она
стала одним из первых и наиболее убедительных виртуальных
собеседников (диалоговых речевых симуляторов). Сам разработ¬
чик был потрясен тем, какие глубокие эмоции и какую личную

Глава 4. То, что доктор прописал 63
информацию раскрывали некоторые люди при общении с ком¬
пьютерной программой. Они словно считали машину реальным
человеком, способным к сопереживанию.
Сегодня виртуальные собеседники (чат-боты) часто исполь¬
зуются в диалоговых системах техподдержки и для различных
видов онлайн-помощи и психотерапии. С такими виртуальны¬
ми собеседниками многие из нас встречались, например, при
оформлении визита к врачу или покупки в интернет-магазине.
Чат-боты сегодня нередко встраивают в некоторые игрушки, на¬
пример, для детей с аутизмом. То, что может отпугнуть ребенка
при общении с живым человеком, спокойно воспринимается
при общении с игрушкой. Наряду с человекоподобными ро-
ботами-сиделками «говорящие» зверушки пополнили арсенал
дополнительных средств, которые повышают качество меди¬
цинской помощи.
Новым направлением развития инновационных техни¬
ческих решений для здравоохранения является электронная
медицинская сестра. Это не робот-андроид, а специализиро¬
ванная установка, оснащенная искусственным интеллектом.
Виртуальная медсестра включает в себя службу напоминания о
необходимости приема лекарств, программы, отслеживающие
изменения артериального давления или уровня глюкозы. В от¬
личие от живого человека такое устройство лишено недостат¬
ков, присущих обычному медперсоналу. Оно не устает, не дрем¬
лет в ночное дежурство. На состоянии электронной медсестры
не сказываются житейские неурядицы. Поэтому виртуальная
сестра неотрывно «сопровождает» больного на протяжении все¬
го периода лечения. Во временные промежутки, определенные
врачом, она осуществляет мониторинг состояния пациента,
фиксирует показатели датчиков, установленных на теле, дает
ответы на стандартные вопросы больного (время процедур,
фамилия врача, длительность лечения). Устройство для синтеза
речи позволяет транскрибировать голосовые сообщения врача,
преобразует голосовую запись в текст, например делает запись
в медицинскую карту. В этом случае медсестра рассматрива¬
ется как ассистент, позволяющий установить качественный
канал связи между врачом и пациентом или лечебным учреж¬
дением.

64 Глава 4. То, что доктор прописал
Еще одним важным направлением применения ИИ является
автоматизация документооборота. Компьютер, осуществляя за
специалистов рутинные действия, разгружает работника, что
позволяет ему сконцентрироваться на стратегических моментах
и в итоге повысить общую результативность врачебного воз¬
действия.
Кстати, как сообщили власти Москвы, в системе столич¬
ного здравоохранения лечащие врачи смогут освободиться от
бумажной волокиты, что позволит уделять больше внимания
обслуживанию пациентов.
В книге о робототехнике мы досконально разобрали несколь¬
ко уникальных устройств, помогающих хирургам при выпол¬
нении рутинных или сложных операций. Практикой доказана
экономическая эффективность проведения роботизированных
вмешательств. Робот — ассистированная хирургическая система
da Vinci дает возможность проводить операции, которые часто
сложно выполнить руками и стандартным инструментарием. Че¬
тыре манипулятора робота выполняют функции воспроизведе¬
ния видеоизображения, проводят хирургические вмешательства
и ассистируют в помощь основным инструментам.
Источник — URL: https://doctor-cardiologist.ru/wp-content/
uploads/2016/12/shutterstock_378098287-356x364.jpg

Глава 4. То, что доктор прописал 65
С помощью современных хирургических инструментов уда¬
ется избежать потери крови. Так, например iKnife, работая, как
световой меч, позволяет в значительной мере уменьшить кро¬
вопотерю, что является критическим при выполнении сложных
хирургических вмешательств.
Современные клиники при выполнении операций широко
используют и метод дополненной реальности. Искусственный
интеллект дает хирургу возможность получать в поле зрения
участки тела в 3D-проекции и тем самым помогает быстрее и
точнее принимать нужные решения.
Ранее на примере технологии «дипфейк» мы рассмотрели
возможности создания новых образов. Насколько парадоксаль¬
ным это ни покажется, но в медицине такая функция нейросети
оказалась очень востребованной. Примером может послужить
возможность создавать один вид изображения на основании
другого. Нейросети моделируют изображения по известной
информации, как в развлекательных мобильных приложениях,
в которых можно создать «гибрид» двух людей по фотографии.
В медицине это применимо, когда пациенту во время обследо¬
вания требуется сразу две процедуры — компьютерная томогра¬
фия и МРТ, чтобы снизить уровень лучевой нагрузки, особенно
если пациент — ребенок. Ученые назвали такой метод квази-КТ.
Согласно ему обученная программа генерирует КТ на основе
существующих МРТ. Пациент проходит одну процедуру вместо
нескольких. Таким образам, уменьшаются время и стоимость
обследования, а главное, доза облучения.
Лаборатория по искусственному интеллекту Сбера предста¬
вила два ИИ-сервиса: модель по определению очагов пневмо¬
нии на рентгеновских снимках с дальнейшей приоритизацией
пациентов для лечения и модель, позволяющую оценивать риск
тяжести течения заболевания у пациентов, госпитализирован¬
ных с пневмонией.
Искусственному интеллекту по силам задачи, которые трудно
было бы решить человеку. Ученые из Европейского институт
биоинформатики Московского государственного университета
имени М. В. Ломоносова провели исследование на миллионах
патологоанатомических изображений из атласа — «проект пан¬
раковый анализ». В результате обучения нейросети было вы-

66 Глава 4. То, что доктор прописал
явлено более 1500 признаков рака. Это значит, что диагностика
этого страшного заболевания стала возможной на самых ранних
стадиях, а это гарантирует высокую степень излечения.
В Нидерландах в 2021 г. ученые создали нейросеть для вы¬
явления рака по данным компьютерной томографии и рентге¬
новских изображений. Программа была обучена на более чем
16 тыс. различных рентгеновских изображений, почти десятая
часть из них имели признаки рака. Она не уступала специалистам
высокого уровня в оценке такого рода образований и смогла
верно поставить диагноз приблизительно в 90% случаев.
Создан алгоритм, который по набору снимков кожных ано¬
малий, таких как «подозрительные» родинки, может помочь с
определением заболевания, и он превосходит специалиста-он-
колога по качеству прогноза на всех уровнях значимости.
Не меньшую роль играет ИИ и в борьбе с сердечно-сосудисты¬
ми заболеваниями. Исследователи обучили алгоритм на 1,77 млн
записей ЭКГ от 400 тыс. пациентов с измерениями вольтажа через
разные промежутки времени. Так, система научилась видеть ша¬
блоны, которые могут указывать на будущие проблемы с сердцем,
в том числе сердечные приступы и мерцательную аритмию.
«Мы обнаружили, что модель «видит» признаки, которые
люди, похоже, не могут заметить, или мы просто игнорируем их
и считаем нормальными. В теории ИИ может научить нас вещам,
которые мы, вероятно, десятилетиями интерпретировали невер¬
но», — предполагает главный исследователь Гейзингер Форнуолт.
Развитие медицинского направления в области искусствен¬
ного интеллекта и робототехники должно привести к появлению
лечебных заведений, действующих на принципах автоматизиро¬
ванных устройств. Человек придет в поликлинику, где робот-се¬
кретарь запишет его на прием. Попутно робот-медсестра возьмет
все необходимые анализы, результаты которых тут же пойдут в
обработку искусственным разумом. Нейросеть сравнит эти пока¬
зания с эталонными значениями и выдаст предварительный диа¬
гноз. При необходимости робот-хирург проведет оперативное
вмешательство или выполнит любое другое лечебное действие.
Кто-то скажет, что это далекая фантастика? Но ведь серьез¬
ные ученые утверждают, что в области медицины более 60%
футуристических прогнозов исполнилось.

Гений есть терпение мысли,
сосредоточенной в известном
направлении.
Исаак Ньютон

ГЛАВА 5
ЦИФРОВАЯ СРЕДА,
ИМИТИРУЮЩАЯ ПРОИЗВОДСТВО
Создание первых цифровых «двойников» в промышленности.
Объединение Интернета вещей и искусственного интеллекта.
Производства-роботы для экстремальных условий. Комплексные
системы, управляющие производством, отдельными отраслями.
Облачные системы хранения информации.
Первая промышленная революция началась в Англии в те
далекие времена начала XVII века, когда, по меткому выраже¬
нию, «овцы съели людей». Земледелие становилось менее при¬
быльным, чем создание пастбищ для разведения овец. Шерсть,
которую давали эти животные, шла на изготовление тканей,
получавших в прохладном климате Британии все большее рас¬
пространение. В 1733 году Джон Кей создал «летающий челнок»
для ткацкого станка. И теперь можно было работать одному
человеку вместо двух. Высвобождались руки, а производитель¬
ность труда выросла вдвое. Освободившийся ткач мог теперь
сесть за новый станок, и владелец мануфактуры увеличивал
производство шерстяной ткани.
Ткач и плотник Джеймс Харгривс работал на одном из
предприятий. Он был пытливым человеком и хотел усовершен¬
ствовать монотонный процесс скручивания тонких нитей, ведь
тогда можно было бы получить больше пряжи, а следовательно,
и денег. Существует легенда, согласно которой дочь ткача по
имени Дженни училась работать за прялкой и случайно уронила
громоздкое устройство. Но даже при падении колесо прялки
продолжило вращение, а нить наматывалась на веретено. Увидев
эту картину, Харгривс решил построить новую прялку, которая
могла бы одновременно и вытягивать нити, и скручивать их. Так
в 1765 году он собрал прялку, которую назвал «Дженни». (Так и

Глава 5. Цифровая среда, имитирующая производство 69
хочется вспомнить, чьей дочери обязаны автовладельцы, обла¬
дающие «Мерседесом» названием одной из самых популярных
машин!) Производительность труда ткача выросла в 20 раз. И ан¬
глийская шерсть впервые стала более конкурентоспособной,
опередив знаменитые индийские ткани.
Но создание механической прядильной машины и образова¬
ние мануфактур еще не стали причиной первой промышленной
революции. Настоящий переворот осуществила паровая машина
Джеймса Уатта, изготовленная в 1773 году. Заставив работать пар,
Уатт коренным образом изменил промышленность, а установка
паровой машины на колесное шасси привела к появлению же¬
лезнодорожного и автомобильного транспорта.
Сегодня человечество живет уже в период Индустрии 4.0 —
четвертой промышленной революции или, как ее еще называют,
цифровой эпохи. Этот термин ввел основатель и бессменный ру¬
ководитель Всемирного экономического форума в Давосе Клаус
Шваб в 2016 году. Собственно само определение «Индустрия 4.0»
появилось немного раньше, в 2011 году, в Германии и обознача¬
ло явление, которые мы называем технологией умного завода.
Согласно определению Шваба, четвертая промышленная
революция (Индустрия 4.0) предполагает новый подход к произ¬
водству, основанный на массовом внедрении в промышленность
информационных технологий, масштабной автоматизации биз¬
нес-процессов и распространении искусственного интеллекта.
Преимущества четвертой промышленной революции очевидны:
повышение производительности, большая безопасность ра¬
ботников за счет сокращения рабочих мест на опасных произ¬
водствах, повышение конкурентоспособности, принципиально
новые продукты и многое другое.
Очень наглядно преимущества цифровизации и роботизации
промышленного производства можно проследить на нескольких
предприятиях, входящих в состав АО «Трансмашхолдинг». Это
объединение машиностроительных заводов является крупнейшим
производителем железнодорожной техники не только в России,
но и в мире. Для совершенствования выпуска продукции и повы¬
шения ее конкурентоспособности на мировых рынках руководство
холдинга приняло решение внедрить цифровые технологии в
таком масштабе, чтобы создать на заводах цифровых «двойников».

70 Глава 5. Цифровая среда, имитирующая производство
Интернет и Интранет
Взаимодействие производственного
оборудования удаленных друг
от друга предприятий
Завод А
Платформонезависимое
взаимодействие и обмен данными
через унифицированный стандарт
Ручное
Платформонезависимое
взаимодействие и обмен данными
через унифицированный стандарт
управление
Клиенты
Технологии управления
поставщики
Человеко-машинное взаимодействие
Поддерживаемое
управление
Gooale Glass
идр
Пользователи
Планшет (ДР)
Облако
Спутник
3»
Завод В
Логистика
Производственная
линия 1 (КФПС)
линия 2 (КФПС)
Ручное
управление
Умный
продукт
Устройство С
Пользователи
/мныи продукт
- 4м
Устрой
*2- Устройство В
ство С
Устройство А Устройство В
Устройство А
Технологические компоненты Индустрии 4.0
В 2018 году Новочеркасский электровозостроительный за¬
вод (НЭВЗ) стал пилотной площадкой АО «Трансмашхол¬
динг» в проекте комплексной цифровизации производства.
В рамках цифровой трансформации совместно с компанией
ООО «2050-Интегратор» на НЭВЗ реализуются более 50 иници¬
атив на базе решений Индустрии 4.0. Это не только обеспечи¬
вает прозрачность технологических процессов, но и позволяет
эффективно управлять производством.
Любой крупный завод состоит из нескольких основных
цехов, в которых происходит сборка оборудования, и вспомо¬
гательных, призванных обеспечить непрерывность работы кон¬
вейера. В локомотивостроении важнейшими узлами являются
дизель-генераторная установка, электросиловое оборудование,
экипажная часть с тяговыми электродвигателями, тормозное и
вспомогательное оборудование. Необходимо подготовить раму

Глава 5. Цифровая среда, имитирующая производство 71
тепловоза или электровоза, на которой и размещаются силовые
агрегаты. Все эти операции четко регламентированы, последо¬
вательность выполнения сборки расписана в технологических
картах и инструкциях. И для того чтобы цеха и оборудование, да
и сами рабочие не простаивали, необходимо вовремя подавать
нужные детали. Отслеживать маршрут от склада до цеха раньше
были обязаны начальники цехов, бригадиры смен. Сегодня этот
процесс полностью автоматизирован за счет применения специ¬
альных программ. Они управляют ресурсами предприятия, фик¬
сируют количество и номенклатуру изделий, места их хранения.
Технологии цифрового производства объединяют все эти данные
с таймингом сборочного цикла. И вот как это исполняется.
Среди ключевых решений, внедренных на НЭВЗ, следует от¬
метить системы мониторинга оборудования, прослеживания про¬
изводственных объектов (движение технических и материальных
ценностей, транспорт, персонал) на территории производствен¬
ного комплекса, компьютерное зрение для контроля качества
операций, цифровой двойник производства, включающий ими¬
тационное и 3D-моделирование производства, интерактивные
электронные технологические руководства, обеспечивающие
повышение квалификации новых сотрудников и сокращающие
вероятность ошибок, и другие цифровые продукты.
Источник — URL: https://www.shutterstock.com/ru/image-photo/orange-
industrial-robot-arm-production-line-2303169369

Глава 5. Цифровая среда, имитирующая производство
Каждое из решений выполняется самостоятельно, но по
единому производственному циклу. К примеру, система мони¬
торинга промышленного оборудования (СМПО) отслеживает
работу и загрузку более 400 станков, в первую очередь все кри¬
тичное оборудование. Внедрение системы позволило решить
задачи контроля фактического времени работы оборудования
и простоев. Как самый рачительный хозяин, СМПО ведет сбор
данных о техническом состоянии оборудования. Современное
станочное оборудование имеет необходимые датчики, которые
контролируют его работу. Исходя из концепции «жизненного
цикла» планируются профилактические и ремонтные работы
на оборудовании, что продляет время эксплуатации. Система
хранит в памяти идентификацию и фиксацию действий опера¬
тора и ремонтного персонала, что повышает индивидуальную
ответственность работников завода. А руководство получает
сформированные отчеты о работе оборудования и производ¬
ственного персонала.
Отследить время нахождения материально-технических цен¬
ностей на складе и в цехах помогают технологии радиочастотной
идентификации. Система RFID, оборудованная радиометками и
считывающими устройствами, позволяет осуществлять контроль
соблюдения производственного цикла при нахождении объек¬
тов в рабочей зоне в соответствии с производственным тактом.
Источник — URL: https://www.vgl.su/blog/rfid-tekhnologiya-i-radiometki-
chto-eto-takoe/

Глава 5. Цифровая среда, имитирующая производство 73
Об эффективности внедрения систем мониторинга может
свидетельствовать тот факт, что производительность труда на
сварочном оборудовании выросла на 10%. Повысилось и ка¬
чество сварных швов за счет более грамотного обучения свар¬
щиков и контроля приборами технического зрения процесса
сварки.
Гуру Индустрии 4.0 нередко высказывают мнения, что ав¬
томатизация и роботизация производства приведут к массовой
безработице во многих развитых странах. Но для России эта
проблема по большей части надуманна. Во-первых, у нас на¬
блюдается демографический дефицит населения, вызванный
опустошительными мировыми войнами и распадом Советского
Союза. Во-вторых, одно время в стране были увлечены массовой
подготовкой «юристов и артистов», по меткому выражению
одного из политиков. И только в последние годы руководство
страны повернулось лицом к проблеме рабочих кадров. Стали
возрождать систему профессионально-технического обучения,
которая действовала в стране тридцать-сорок лет назад. Но те¬
перь подготовка «фабзайцев» (учащихся фабрично-заводского
обучения) проводится на новой учебно-материальной базе.
И многие рабочие специальности требуют даже не среднетех¬
нического, а высшего инженерного образования.
Мне довелось общаться с рабочими знаменитого Ижорского
завода, который недавно отметил свой 300-летний юбилей.
Сегодня заводы, возникшие на месте бывшей лесопильни,
принадлежавшей сподвижнику Петра Первого Александру
Меньшикову, входят в состав Росатома. На них производят
сложнейшее оборудование для атомной промышленности и
нефтегазового комплекса страны. Бригадирами цехов работают
специалисты, имеющие высшее инженерное образование. И это
не случайно, потому что современное оборудование — робо¬
тизированные сварочные установки, обрабатывающие станки
с числовым программным управлением — требует глубоких
инженерных знаний.
Поэтому освобождение работников от выполнения рутин¬
ных процедур позволяет повысить качество подготовки и
обеспечить профессиональный рост для управления сложным
оборудованием.

Глава 5. Цифровая среда, имитирующая производство
Источник — URL: https://www.stankoinst.ru/joumal/2023/4
Чтобы закончить с цифровыми двойниками производства,
скажем лишь, что успешный опыт НЭВЗ востребован и на других
предприятиях холдинга «ТМХ». Такие же системы внедряются
на Тверском вагоностроительном заводе, чья продукция извест¬
на каждому жителю нашей страны. Здесь выпускают большое
число инновационных пассажирских вагонов различного класса.
Двухэтажные поезда стали привычной картиной на железной
дороге. Они перевозят увеличенное число пассажиров на наи¬
более востребованных маршрутах.

Глава 5. Цифровая среда, имитирующая производство 75
Ведя речь о железной дороге, невозможно обойти вниманием
ряд разработок в области искусственного интеллекта ведущих
научно-исследовательских институтов страны. Один из них —
Всероссийский научно-исследовательский институт железнодо¬
рожного транспорта (ВНИИЖТ). На экспериментальном кольце
ВНИИЖТ, расположенном в подмосковной Щербинке, получили
путевку в жизнь все виды подвижного состава, от локомотивов
до вагонов и путевой техники. Прежде чем выйти на магистрали
общего пользования, техника «наматывает круги» по кольцу. По
ходу этих поездок проводится проверка надежности конструкции,
выявляются неисправности, определяется соответствие изделия
техническим заданиям. Именно здесь впервые вышли на линию
разработки цифровой или умный локомотив, цифровой вагон,
многочисленная измерительная и диагностическая техника.
В настоящее время транспортно-логистические реалии, уве¬
личение спроса на трансконтинентальные перевозки вызвали
необходимость совершенствовать систему грузоперевозок по
Восточному полигону Транссибирской магистрали и БАМу. Раз¬
вязать узкие места на Восточном полигоне призвана интеллек¬
туальная система управления на железнодорожном транспорте
(ИСУЖТ). Ее внедрение позволит эффективно использовать
подвижной состав, оптимизировать график движения поездов,
оперативно маневрировать локомотивами и поездными бри¬
гадами. Помимо этого, на четырех дальневосточных железных
дорогах внедряются новейшие разработки в области управления
движением поездов: интервальное регулирование и ведение
грузовых поездов с распределенной тягой.
Система интервального регулирования движения поездов
применяется на действующей магистрали вместо традиционной
автоматической блокировки. Дело в том, что весь железнодо¬
рожный путь разделен на участки, которые ограничены свето¬
форами. Длина участка выбирается исходя из местных условий
и учитывает скорость и вес состава. Блок-участки должны обе¬
спечить эффективное торможение грузового поезда, движуще¬
гося на максимально разрешенной скорости. Но если сделать
так, чтобы поезд следовал точно за идущим впереди составом,
можно увеличить пропускную способность участка. Так часто
движутся автомобили по городским улицам в условиях пробок.

Глава 5. Цифровая среда, имитирующая производство
Современные системы спутниковой навигации, установленные
на локомотивах, позволяют с высокой точностью показывать
местонахождение состава, его скорость. Исходя из этих данных
поездной диспетчер или машинный разум рассчитывает график
движения и подает соответствующие команды машинисту. Ма¬
шинист ведет поезд не по показаниям светофора, а по занятости
блок-участка. Эксплуатация СИРДП на протяжении нескольких
лет показала, что за счет этой инновации грузоперевозки вы¬
росли на 25—30%.
Еще одно новшество — распределенная тяга. Суть ее про¬
ста: вместо одного (двух-трех) локомотивов поезда ведут сразу
несколько тепловозов или электровозов. Длина состава всегда
ограничена несколькими обстоятельствами, прежде всего весом
поезда и мощностью локомотива. Профиль на железных доро¬
гах не всегда ровный, есть подъемы и спуски. Это увеличивает
нагрузку на тягу. В прежние времена, когда паровозы были не
столь мощными, на крутых подъемах использовались толкачи,
которые прицеплялись к хвостовому вагону и помогали перед¬
нему локомотиву. Поезда были недлинными, и машинисты
общались посредством паровозных свистков. Но современный
состав грузового поезда может насчитывать до ста и больше
вагонов. Учитывая длину вагона, такая змея растягивается на
5—6 километров. На таком расстоянии да с учетом рабочего
гула двигателя не всегда можно услышать команду. Другая про¬
блема — прочность автосцепки, которая держит вагоны. При
большом весе поезда и мощном локомотиве ее легко можно
порвать, и тогда движение остановится.
На помощь пришло несколько технологий — цифровая и
транкинговая радиосвязь, а также устройство для обеспечения
синхронной работы двигателей. Благодаря этому стало возможно
вставлять локомотивы не только в голове и хвосте состава, но и
в середине. Система многих единиц автоматически управляет
тягой и тормозами, а локомотивной бригаде остается лишь
контролировать работу автоматики. На сортировочной станции
поезда расцепляются и могут следовать каждый своим марш¬
рутом. Такую технологию апробировали на Дальнем Востоке,
где преобладает гористая местность, и она показала высокую
эффективность.

Глава 5. Цифровая среда, имитирующая производство 77
Сегодня на Восточном полигоне курсирует цифровой грузо¬
вой вагон. Система позволяет оптимизировать мониторинг со¬
стояния железнодорожного пути. Грузовой вагон единственный
в подвижном составе не имеет собственного энергетического
питания, что затрудняет сбор информации с датчиков, требу¬
ющих непрерывной подачи питания. Специалисты ВНИИЖТ
собрали опытный сцеп. Он состоит из полувагонов, которые
установлены на три разные модели тележки. Тележки оснащены
тензоизмерительными датчиками, модулем для позициониро¬
вания сцепа, а также источником питания.
Умный сцеп отслеживает такие параметры, как скорость и
координаты движения, показатели динамики и кинематики,
продольные, боковые и вертикальные ускорения вагона, а
также продольно-динамические силы в поезде на автосцепках.
Полученный массив данных с привязкой к железнодорожному
пути и в интеграции с используемыми системами диагностики
подвижного состава позволяет комплексно оценивать состояние
парка грузовых вагонов. Всю аналитическую работу проводит
искусственный интеллект. Он же строит прогнозные модели
для проведения своевременного технического обслуживания.
Работа в области искусственного интеллекта — тренд нашего
времени. В этом году в АО «ВНИИЖТ» был открыт Центр ис¬
кусственного интеллекта. В институте уже велись исследования
и разработки в области ИИ, и новое подразделение объединило
данный блок работ. Речь идет о трех ключевых направлениях —
предиктивной аналитике, компьютерном зрении и языковых
моделях.
Подвижной состав — изделия высокой технической осна¬
щенности, рассчитанные на длительный срок эксплуатации.
До сих пор на железной дороге трудятся старички-паровозы,
отметившие столетний юбилей. Современные локомотивы
оборудуются датчиками, которые в режиме реального времени
следят за состоянием агрегатов. Любые нарушения определяются
чувствительными микрофонами или видеокамерами, лазерными
измерителями и поступают в бортовой компьютер. Если пара¬
метры выходят за рабочие пределы, подается соответствующее
предупреждение. Поломки бывают различными. Иные могут
подождать до приезда локомотива в ремонтное депо, другие

Глава 5. Цифровая среда, имитирующая производство
требуют немедленного вмешательства. Если с нарушением не
может справиться бригада, принимается управленческое реше¬
ние: заглушить одну секцию или дождаться вспомогательного
локомотива из обязательного резерва. Предиктивная аналити¬
ка позволяет разрабатывать модели прогнозирования отказов
оборудования локомотивов на основе обработки исторических
данных и бортовой телеметрии. Помимо предотвращения от¬
казов и остановок локомотивов при следовании, это позволяет
сократить расходы, в том числе за счет снижения количества
внеплановых ремонтов и своевременного проведения профи¬
лактических работ.
Компьютерное зрение позволяет создать систему роботизи¬
рованного управления путевыми машинами и видеоаналитики
ремонта пути. Но и не только. Уже прошли испытания умной
техники, предназначенной для отслеживания параметров гру¬
зовых поездов. На нескольких крупных станциях установлены
интеллектуальные системы коммерческого осмотра поездов.
Состав перед станцией проходит через своеобразную раму,
на которой смонтированы десятки разнообразных датчиков.
Здесь и чувствительные микрофоны, и лазерные дальномеры,
и видеокамеры, способные считывать номера вагонов, вести
счет осей, проверять состояние грузов в открытых вагонах и
величину нагрева подшипниковых узлов тележек. Обследование
каждого вагона ведется по нескольким десяткам параметров, и
данные от обследования поступают на станцию. Получается,
что о поезде, который движется еще за несколько километров,
на станции знают осмотрщики, ремонтники, диспетчеры. При
необходимости «больной» вагон отцепляют и отправляют в
ремонт.
Есть еще несколько интересных разработок с применением
искусственного интеллекта в комплекте с аппаратурой компью¬
терного зрения. Одну из них разработал Научно-исследователь¬
ский и проектно-конструкторский институт информатизации,
автоматизации и связи (НИИАС). Система предназначена для
эффективного размещения вагонов. И первая такая система ра¬
ботает на сортировочной станции Кинель в Самарской области.
По периметру станции размещены камеры и датчики, со¬
бирающие данные о местоположении вагонов и скорости их

Глава 5. Цифровая среда, имитирующая производство 79
движения, а также отслеживающие воздействие состава на путь.
Благодаря алгоритмам ИИ анализируются данные и предлагают¬
ся лучшие варианты размещения вагонов в парке. Это сокращает
время на формирование составов, а процесс роспуска вагонов и
сортировки становится более безопасным.
Искусственный интеллект позволяет полностью автома¬
тизировать контроль путей и вагонов, помогает определять
нештатные ситуации на любых железнодорожных путях. А на
нефтеналивных терминалах еще и обеспечивает пожарную без¬
опасность. Новая система будет установлена в приоритетном
порядке на 23 крупных сортировочных станциях сети РЖД.
Подобные технологии используются и на железных дорогах
зарубежных стран. Немецкий перевозчик Deutsche Bahn внедряет
технологию E-Check, основанную на использовании роботов и
искусственного интеллекта (ИИ), на своем заводе ICE-Wartung
в регионе Ниппес, Кельн, для технического осмотра и обслужи¬
вания поездов Intercity-Express (ICE).
В процессе проверки с помощью E-Check поезд ICE проходит
через ворота с видеонаблюдением. Вся проверка занимает не
более пяти минут для самого длинного поезда ICE XXL длиной
374 метра с 13 вагонами, дополнительно можно использовать
мобильное подпольное устройство для проверки нижней части
подвижного состава. После этого ИИ оценивает записи и со¬
общает о любых выявленных отклонениях от целевого состо¬
яния техническим специалистам на заводе. Техник проверяет
изображение и решает, действительно ли есть ошибка. Затем
заказ на работу автоматически отправляется на планшет со¬
трудников мастерской. Технология способна обнаружить как
технические отклонения, например неправильно посаженный
винт, так и «косметические дефекты», такие как поврежденные
пиктограммы на внешней стороне поезда.
Кроме ИИ для технического обслуживания поездов ICE так¬
же используются роботы. Они отвечают за снабжение поездов
пресной водой и откачку сточных вод: роботы автоматически
распознают люки на разных типах поездов, открывают их и
присоединяют шланг. После завершения подачи воды или от¬
качки робот самостоятельно закрывает заслонку и переходит к
следующему люку.

Глава 5. Цифровая среда, имитирующая производство
К 2025 году технологию E-Check планируют внедрить и на
других заводах ICE в Берлине, Дортмунде, Гамбурге и Мюн¬
хене. На данный момент в сети Deutsche Bahn в эксплуатации
находится 357 высокоскоростных поездов ICE разных моделей.
C 2024 года планируется ввести в эксплуатацию еще 79 заказан¬
ных поездов самой новой модели платформы ICE L.
У железной дороги есть множество неоспоримых преиму¬
ществ перед другими видами транспорта. На стальных маги¬
стралях успешно используются многие технические решения,
позволяющие вывести поезда в особую категорию — автоматов,
способных работать без участия человека. Отправимся на один
из таких участков и посмотрим, на что способен интеллект «на
рельсах».

В каждой естественной науке
заключено столько истины, сколько
в ней есть математики.
Иммануил Кант

ГЛАВА 6
САМИ ЕДУТ, САМИ ПРАВЯТ
Использование ИИ на транспорте. Беспилотное вождение поездов
и автомашин. Обеспечение безопасности на транспорте. «Глубин¬
ное обучение» технических средств. Предиктивная аналитика и
диагностика.
Два столетия отделяют нас от того дня, когда между городами
Стоктон и Дарлингтон в Англии открылось первое регулярное
железнодорожное сообщение. Поезд, ведомый паровозом
«Ракета», сконструированным Робертом Стефенсоном, дал
старт развитию сети железных дорог по всему миру. За два века
железнодорожная тяга прошла через череду революционных
преобразований. Пар, как движущая сила, спустя сто пять¬
десят лет был вытеснен двигателями внутреннего сгорания и
электромоторами. Даже реактивные двигатели устанавливались
на вагонах. Разрабатывались проекты атомных паровозов, но
эта идея из-за опасения радиоактивного заражения так и не
воплотилась в металл. Сегодняшние локомотивы используют
не только традиционное дизельное топливо, но и более эколо¬
гичный природный газ, и даже водород — самое чистое в мире
топливо! Но неизменными остаются рельсы — непременный
атрибут железной дороги.
Рельсы — очень надежный путь. Главное их достоинство и от¬
личие от любой другой дороги — неизменность маршрута. Поезд
может ехать только там, где проложена стальная колея. В этой
предсказуемости заключается основной принцип внедрения
беспилотной езды. И сравнительная легкость реализации про¬
екта автономного движения.
Давайте поднимемся в кабину локомотива и посмотрим,
как работает поездная бригада во время движения. Оставим в
стороне контроль за многочисленными приборами на пульте

Глава 6. Сами едут, сами правят 83
машиниста. Машинист и его помощник внимательно наблю¬
дают за огнями светофоров. Зеленый — можно ехать вперед
с максимально разрешенной скоростью. Красный — проезд
запрещен. Существуют еще другие цвета — желтый, желтый
мигающий, синий и белый, но они либо относятся к маневровой
работе с вагонами, либо носят дополнительные информацион¬
ные функции, например указывают, что поезд принимается на
боковой путь станции и может следовать дальше без остановки.
Бригада хорошо знает этот язык светофорных огней, а потому
понимает, как двигаться.
Остекление кабины позволяет смотреть вперед и в стороны.
И это немаловажно. Ведь наши железные дороги проходят не по
безжизненной пустыне, а через населенные пункты, пересекают
автомобильные дороги. Значит, машинисту и его помощнику
нужно внимательно следить, чтобы на железнодорожный путь
не выходили люди или животные, чтобы на переезде не было
застрявшей автомашины или рассыпанного груза. Если мы едем
на пассажирском поезде или в пригородной электричке, нужно,
чтобы состав остановился точно на платформе.
Вот мы и обозначили основные правила организации бес¬
пилотного движения. А теперь давайте подумаем, что нужно
локомотиву, чтобы провести поезд по нужному маршруту и
при этом соблюсти правила безопасности, выдержать установ¬
ленный график движения, обеспечить максимальный комфорт
для пассажиров.
Прежде всего нужен контроль за поездными сигналами и на¬
ружной обстановкой. Человек выполняет его благодаря зрению.
Огни светофоров видны в ясную погоду и при условии прямого
пути за несколько километров. Этого достаточно, чтобы в случае
возникновения препятствия машинист смог остановить поезд.
Сигналы светофоров дублируются локомотивным светофорчи¬
ком, который установлен в кабине. Поэтому в условиях плохой
видимости машинист и его помощник смотрят на локомотивный
светофор.
Сложнее обстоят дела с наружной обстановкой. Сколько
бывает случаев, когда на железную дорогу выходят дикие жи¬
вотные! Или какой-то опаздывающий гражданин вдруг решит

84 Глава 6. Сами едут, сами правят
срезать путь прямо перед движущимся поездом. А ночью или
в снегопад посторонние предметы или живых существ на пути
можно и не заметить...
Значит, беспилотные поезда прежде всего должны быть обо¬
рудованы устройствами технического зрения. Камеры видеона¬
блюдения всем хорошо знакомы. Они установлены в подъездах
домов, в торговых центрах и на улицах, круглосуточно ведут
мониторинг обстановки. Такие же камеры, позволяющие видеть
и отдаленные, и близлежащие предметы, монтируются и на
кабину беспилотного поезда. А еще устанавливаются лазерные
дальномеры. Они помогают точно определять расстояние до
предметов, которые находятся перед поездом. Они же позволяют
осуществлять «прицельное» торможение, чтобы электропоезд
остановился точно на пассажирской платформе.
Одним из российских пионеров — разработчиков технологий
беспилотного вождения стала компания Cognitive Technologies.
Она занимается системами распознавания образов. Продукт для
оптического распознавания символов, который создала эта ком¬
пания, позволяет автоматически набирать тексты. Компьютер
распознает отсканированный текст и преображает изображение
в текстовый файл. По сути, эта технология и стала основой для
системы машинного зрения. Все объекты, которые попадают в
поле зрения видеокамер, распознаются, анализируются и пере¬
даются оператору. Им может быть как человек, так и машина,
наделенная искусственным интеллектом.
Посмотрите, как рисуют маленькие дети. Для них важна
внешняя форма, которая нашим сознанием привычно ассоци¬
ируется с тем или иным предметом, животным или человеком.
Точно так же можно обучить машину понимать язык образов,
анализировать опасность, исходящую от объекта, или игнори¬
ровать ее. На таких принципах построена работа технологии
Cognitive Pilot. Несколько камер дают изображения, а искусствен¬
ный интеллект, прошедший машинное обучение, отождествляет
образы и выдает необходимые команды.
Уже несколько лет на Московском центральном кольце
можно увидеть электропоезд «Ласточка», в кабине которого
нет поездной бригады. При этом поезд уверенно движется по
маршруту, в нужное время останавливается на станции, до¬

Глава 6. Сами едут, сами правят 85
жидается окончания посадки пассажиров и плавно трогается с
места. Такие поезда — итог совместной работы уже упомянутой
компании Cognitive Pilot, Научно-исследовательского и про¬
ектно-конструкторского института информатизации, автома¬
тизации и связи (НИИАС), дочерней компании ОАО «РЖД», и
компании «Уральские локомотивы».
«Ласточка» основательно вооружена техническими прибора¬
ми. На головном и хвостовом вагоне, где обычно смонтирована
кабина машиниста, установлены десятки приборов машинного
зрения, лазерные дальномеры, лидары, видеокамеры и даже
тепловизоры, позволяющие видеть и днем, и ночью. На крыше
находятся приемники сигналов GPS-ГЛОНАСС, позволяющие
с точностью до десятка сантиметров осуществлять позициони¬
рование поезда. Это нужно не только для прицельной остановки
у таблички «Остановка головного вагона», но и для управления
движением поезда на маршруте. Особняком стоят диагностиче¬
ские приборы, которые следят за состоянием узлов и агрегатов
электропоезда.
Все данные по наружной обстановке, а также по характеру
движения поезда поступают в компьютер, где обрабатываются
искусственным интеллектом. Он заменил машиниста, и, надо
сказать, первые итоги эксплуатации показали, что беспилотное
движение на железной дороге является весьма эффективной
технологией.
Система, обученная с применением технологии глубинного
обучения (deep learning), научилась правильно распознавать
каждый сигнал с камер видеонаблюдения, будь то обстановка
перед головой поезда либо сигналы светофоров. В случае от¬
клонения параметров сигнала от базового значения машинный
мозг анализирует характер нарушения и автоматически прини¬
мает управленческое решение. Если это препятствие, могущее
повлечь аварию или даже крушение поезда, включается режим
экстренного торможения. При незначительных препятствиях,
скажем, при попадании в междупутье пластикового пакета или
бутылки, машина снизит скорость и даст сообщение на дис¬
петчерский пост.
Специалисты НИИАС, обучавшие «Ласточки» технологии
беспилотного вождения, провели десятки натурных испыта¬

86 Глава 6. Сами едут, сами правят
ний на Московском центральном кольце. Они обучили си¬
стему реагированию на любые, даже самые фантастические,
препятствия и записали это в память бортового компьютера.
Достоинство такого подхода к обучению искусственного ин¬
теллекта заключается в легком тиражировании программы на
другие локомотивы. Получается своеобразный виртуальный
тренажер для электропоезда, на котором занимаются только что
построенные или переоборудованные на заводе-изготовителе
составы.
В декабре 2021 года были завершены разработка и испытания
систем технического зрения и дистанционного управления бес¬
пилотного поезда «Ласточка», который уже совершает тестовые
поездки на Московском центральном кольце (МЦК). Об этом
сообщила пресс-служба Российских железных дорог (РЖД).
«Беспилотная «Ласточка» на МЦК уже сейчас совершает те¬
стовые поездки в автоматическом режиме, пока без пассажиров.
В декабре завершили все этапы по разработке и испытаниям
систем технического зрения и дистанционного управления
«Ласточки» с третьим усовершенствованным уровнем авто¬
матизации. Функция машиниста здесь сводится к контролю
посадки-высадки пассажиров и управлению при возможных
нештатных ситуациях», — говорится в сообщении.
В пресс-службе подчеркнули, что упомянутые системы «Ла¬
сточки» — это полностью российские решения, выполненные
в сотрудничестве между отраслевыми институтами и ведущими
отечественными университетами и производителями. В бес¬
пилотной «Ласточке» использованы такие технологии, как ис¬
кусственный интеллект, специализированные нейронные сети,
интеллектуальное техническое зрение на поезде и на объектах
инфраструктуры. Все возможные режимы эксплуатации моде¬
лируются с применением симуляторов.
«Автопилот и система умного зрения реагируют раньше, чем
машинист, и не знают усталости. Скорость реакции системы —
0,3 секунды, а у человека в среднем — больше одной секунды», —
добавили в пресс-службе.
Теперь, когда мы познакомились с обстановкой, в которой
двигается поезд, самый раз посмотреть на один из сложнейших
элементов диспетчерского управления — график движения. Он

Глава 6. Сами едут, сами правят 87
построен из ломаных линий. Каждая такая линия — маршрут по¬
езда, остановка, сортировка на станции и многое другое. Раньше
графики составлялись вручную, а их подготовка была трудным
делом даже для опытных специалистов-движенцев. Но с началом
эры компьютеризации многие функции взяла на себя вычисли¬
тельная техника. В машинный мозг загружаются сотни данных:
маршрут поезда, количество вагонов в нем, станции остановок
и сортировки, фамилии членов локомотивной бригады. И уже
компьютер строит те самые кривые линии, бдительно следя за
тем, чтобы на перегоне не встретились два поезда, а на станции
прибытия был освобожден путь для нового поезда, чтобы на
сортировочной станции состав ожидал маневровый тепловоз и
была готова сортировочная горка для роспуска вагонов и фор¬
мирования нового состава.
Рельсовый транспорт с точки зрения автоматизации пред¬
ставляет наибольший интерес. Мы упомянули о «Ласточках» —
отечественной разработке, которая уже эксплуатируется на МЦК
и имеет хорошие перспективы внедрения на других маршрутах.
В столице России запущено несколько пригородных поездов,
связывающих Москву и ближайшее Подмосковье. Магистраль¬
ные диаметры D1—D4, входящие в единый транспортный узел
мегаполиса, стали совместным проектом правительств Москвы
и Московской области. Учитывая высокотехнологичную желез¬
нодорожную инфраструктуру Московской железной дороги,
следующим шагом за автоматизацией МЦК могут стать бес¬
пилотные пригородные диаметры.
Одним из зарубежных проектов беспилотного метрополитена
можно назвать метро во французском городе Лилле. Этот город-
музей, как его нередко называют, некогда прославил в романе
«Три мушкетера» Александр Дюма. Если читатели помнят, там
фигурирует палач из Лилля, который казнил коварную Миледи.
Но мы обратим свой взор на местную достопримечательность —
подземку.
Сегодня в Лилле и ближних пригородах проживает около
250 тысяч жителей. Население среднего областного центра
России. А число только туристов-французов, приезжающих
в течение года в этот город, чтобы побродить по его улицам и
площадям, по данным отельеров, в десять раз превышает ко¬

88 Глава 6. Сами едут, сами правят
личество местных. Давайте сюда приплюсуем с полмиллиона
британцев и несколько сот тысяч других европейцев, чтобы по¬
нять, с каким количеством пассажиров имеет дело транспортная
система Лилля.
Перед городскими властями остро встал вопрос о модерни¬
зации транспортных коммуникаций, чтобы, с одной стороны,
сделать пребывание многочисленных гостей максимально
комфортным, а с другой — нанести центральной исторической
части города минимальный урон. И тогда было принято бес¬
прецедентное решение — построить в Лилле... метрополитен.
Во всем мире, и в Советском Союзе в том числе, подземка
строилась преимущественно в городах-миллионниках. С кон¬
ца XIX века метрополитен начал действовать в Лондоне, затем
наступил черед Берлина, Парижа и, как говорится, далее везде.
Линии метро, то глубокого заложения, то поверхностного, стали
спасением для сотен мегаполисов.
Но при чем тут Лилль?! Четверть миллиона жителей. Ах да,
туристы! И город решился. В 1983 году в Лилле торжественно
открыли метрополитен. Но не простой, а беспилотный! И это
была первая в мире подземка, в которой поезда водили автома¬
тические системы управления.
Международное сообщество общественного транспорта
выработало пять ступеней управления транспортом, полу¬
чивших градацию G0A0—G0A4. Последний и является по сути
полностью беспилотным транспортом. Управление подвижным
составом осуществляется микропроцессорной техникой по
специально выбранным меткам, которые позволяют прицельно
останавливаться в границах пассажирской платформы и дви¬
гаться по перегону с предварительно рассчитанным энергоэф¬
фективным режимом.
Для обеспечения дополнительной безопасности пассажиров
автоматического метрополитена предусмотрена установка на
платформах раздвижных дверей, как это сделано на многих
станциях метро в Санкт-Петербурге.
В метрополитене Лилля имеются две линии. Линия 1 длиной
в 13,5 км, из которых 8,5 км приходятся на подземный участок.
На ней расположены 18 станций. Линия 2 длиной 32 км, на ней

Глава 6. Сами едут, сами правят 89
44 станции. Между линиями предусмотрены две пересадки, одна
из них кросс-платформенная. Часть станций лилльской подзем¬
ки имеет выходы и пересечения с трамвайными и автобусными
маршрутами, на которых действует единый билет.
Для Лилльского метрополитена была разработана техно¬
логия автоматического управления VAL. На всем протяжении
маршрутов двух веток метро сделаны специальные метки, ко¬
торые считываются микропроцессорной аппаратурой и позво¬
ляют контролировать движение поездов. Движение транспорта
в музее под открытым небом, которым с полным основанием
считают Лилль, вызывает особую обеспокоенность отцов го¬
рода. Необходимо обеспечить сохранность уникальных исто¬
рических зданий, снизить вибрацию и шум, по возможности
полностью исключить вредные выбросы от работы двигателей
внутреннего сгорания. И строители метро пошли своим путем.
От привычного нам вида подземки метрополитен в Лилле отли¬
чается отсутствием рельсов. Поезда имеют колеса с резиновыми
шинами, что значительно уменьшает шум и вибрацию от дви¬
жущегося поезда, добавляя комфорта пассажирам, и обеспе¬
чивает более-менее сносную обстановку для многочисленных
туристов.
Шинный ход не является эксклюзивом, характерным для
Лилля. Во всем мире несколько подземок имеют такие колеса.
Иногда они двигаются по привычным рельсам, иногда катятся
по бетонным либо стальным специальным дорожкам. Тем самым
обеспечивается дополнительная плавность хода и сам поезд
движется тише.
Французская система шинного хода, разработанная при¬
знанными специалистами двух гигантов — «Мишлен» и
«Рено», имеет и специальные направляющие, которые помо¬
гают проходить стрелочные переводы и в некоторых случаях
предотвращают сход поезда. Метровагоны на шинах питаются
электричеством, которое подается через третий рельс, а зазем-
лителем служат либо рельсы (или направляющий рельс), либо
заземляющие планки.
На сегодняшний день поезда на автопилоте работают на не¬
которых линиях метро в Великобритании, США, Японии, Герма¬
нии, Испании, Бразилии, Японии, Малайзии и других странах.

90 Глава 6. Сами едут, сами правят
Беспилотный поезд в Токио
(источник — URL: https://www.shutterstock.com/iu/image-photo/tokyo-
japan-unmanned-train-automated-guideway-1646384329)
Во многих метрополитенах мира такие поезда ходят вообще
без машинистов. В других, несмотря на то что состав подземки
тоже может двигаться без машиниста, человек в кабине все же
присутствует, поэтому людей в метро новинка шокировать не
должна. Многие эксперты говорят, что при использовании си¬
стемы автопилота существует психологическая проблема.
Пассажиры побаиваются поездов, в которых вообще нет
машинистов. Например, в Нюрнберге люди стали доверять
полностью автоматическим поездам только через несколько лет
успешной эксплуатации.
В России система беспилотного метро тоже внедрена. Поезда
на автопилоте ходят на одной линии Санкт-Петербургского
метро и в Казани. Система автоведения, используемая на этих
линиях, имеет собственное название «Движение». А в последнее
время эксперименты с беспилотниками проводятся и в Мо¬
скве. Такие машины эксплуатируются в электродепо «Красная
Пресня». Перед выходом на линию машинист традиционно
занимает свое рабочее место в кабине. Однако дальше разница
принципиальная.

Глава 6. Сами едут, сами правят 91
В кабине машиниста установлена система автономного ав¬
томатизированного ведения поезда. Это значит, что двигаться
от станции к станции состав может и без человека, который
им управляет. Систему разработали в НИИ приборостроения
имени Тихомирова.
За время испытаний успели «обкатать» умную технику и ис¬
править все замечания, полученные от специалистов. В итоге
автоматика научилась соблюдать скоростной режим, не откло¬
няясь от графика, что очень важно для Московского метрополи¬
тена.
В столичном метрополитене система берет основное управ¬
ление поездом на себя. Компьютер способен самостоятельно
остановить поезд с точностью до трех сантиметров, при этом
движение продолжается только после команды машиниста.
Машинист может взять на себя полный контроль поезда на
случай чрезвычайной ситуации, а также открывать и закрывать
двери для высадки и посадки пассажиров. Автоматическая же
система позволяет контролировать, чтобы двери для пассажиров
открывались, только когда поезд подошел к платформе.
В России такую систему в полной мере ввести в эксплуата¬
цию пока не позволяет и нормативная база. Сейчас по норма¬
тивам нельзя запустить поезд без машиниста. И дело не только
в автопилоте: везде должны быть установлены камеры видео¬
наблюдения. Машинист перед отправлением поезда смотрит в
зеркало заднего вида, чтобы не тронуться, если кто-то остался
зажатым в дверях. Также для того, чтобы поезда ходили без
машинистов, на каждой двери вагона нужно установить датчик.
Если дверь не закрылась до конца, поезд не должен трогаться.
Система должна распознать, что кто-то застрял. Машинист
пока это делает быстрее. Он посмотрит и приоткроет дверь на
10 сантиметров. А способен ли автопилот на такие действия,
пока непонятно.
Кстати, глава Департамента транспорта и развития дорож¬
но-транспортной инфраструктуры Москвы Максим Ликсутов
сообщил, что в московском метрополитене не будут курсировать
поезда без машинистов. По его словам, автоматизированная
система позволяет пускать не более 20 пар поездов в час, а в
московском метро в час пик ходят до 39 пар поездов! Поэтому

Глава 6. Сами едут, сами правят
управление любой транспортной системой, в которой присут¬
ствует человеческий фактор, безопаснее и эффективнее.
И все же работы по автоматизации подземной дороги ведутся
активно. В частности, этими проектами занимаются ученые
НИИ приборостроения имени Тихомирова. Здесь разрабаты¬
вается технология, которая позволит диспетчеру дистанционно
остановить поезд в экстренных ситуациях. Если машинист по
какой-то причине не остановит состав на нужной станции, то
программа это сделает сама, что повышает безопасность дви¬
жения поездов.
Также система не позволяет открыть двери с неправильной
стороны и препятствует проезду станций. Она позволяет в авто¬
матическом режиме отправить поезд на перегон и привести его
на следующую станцию. При этом отрабатывает все ограничения
скорости, режимы, соблюдает время хода по перегону.
Вскоре в подземке будет ходить три таких поезда. Система
автоматического ведения поездов метро будет программировать¬
ся отдельно под каждую линию, так как все ветки отличаются и
режимами вождения, и поездами, и светофорами.
Беспилотное вождение поездов — важное, но не единственное
поле деятельности искусственного интеллекта. Понятие «умный
локомотив» подразумевает не только степень автоматизации,
но и контроль за работой и состоянием узлов и механизмов. На
тепловозы и электровозы устанавливаются датчики, замеряю¬
щие параметры: величину нагрева, вибрации и т.д. На основе
анализа этих данных бортовой компьютер в режиме реального
времени определяет состояние механизма и выдает прогноз для
выполнения профилактических и ремонтных работ.
В РЖД проделали большую работу по созданию систем пре¬
диктивной аналитики. В частности, по локомотивному обо¬
рудованию разработаны модели прогнозирования отказов обо¬
рудования локомотивов на основе обработки исторических
данных и бортовой телеметрии.
Модели рассчитывают фактический износ, определяют ано¬
малии, фиксируют отклонения от нормальных режимов работы
и прогнозируют остаточный ресурс локомотивного оборудо¬
вания.

Глава 6. Сами едут, сами правят 93
Помимо предотвращения отказов и остановок локомотивов
при следовании предиктивная аналитика позволяет сократить
эксплуатационные расходы, в том числе за счет снижения ко¬
личества внеплановых ремонтов и своевременного проведения
профилактических работ.
Однако предиктивная аналитика — это не только про состоя¬
ние технических узлов и деталей. Система может прогнозировать
возможные нарушения в поведении человека. Данный функци¬
онал, например, заложен в таком проекте, как АС «Доверенная
среда локомотивного комплекса». ИИ способен учитывать ос¬
новные показатели, которые характеризуют работу машиниста,
систематизировать допускаемые ошибки, чтобы определять
вероятность совершения им нарушений. На основе полученных
результатов можно сформировать перечень рекомендуемых
профилактических мероприятий, которые позволят повысить
качество и эффективность перевозочного процесса.
Разумеется, предиктивная аналитика применима и к другим
направлениям железнодорожного транспорта. Среди уже реали¬
зованных решений можно выделить проекты по прогнозирова¬
нию простоев промышленного оборудования, а также состояния
верхнего строения пути и вагонов.
Чтобы не сходить с рельсового пути, прокатимся на город¬
ском трамвае. Уже упомянутая компания Cognitive Pilot разрабо¬
тала специальную технологию и для этого вида транспорта. Завод
«Уралтрансмаш» построил по заказу петербургских городских
властей ретро-трамвай «Достоевский». Для городского жителя
старшего поколения новые машины выглядят так же, как ста¬
рые питерские трамваи. Но за историческим внешним обликом
скрыт машинный разум, который в ряде случаев реагирует на
обстановку и принимает управленческие решения быстрее неко¬
торых водителей. Во всяком случае их показатели максимально
приближены к беспилотному режиму.
Делает это система Cognitive Tram Pilot. То есть система актив¬
ной безопасности и помощи водителю на базе искусственного
интеллекта. Она позволяет видеть на пути трамвая машины и
людей, понимать направление их движения, определять сиг¬
налы светофоров и реагировать на все это соответствующим

Глава 6. Сами едут, сами правят
образом. ИИ контролирует скоростной режим на проблемных
участках маршрута, определяет помехи и помогает в опасных
ситуациях.
Вот теперь самое время сойти с поезда или трамвая и по¬
смотреть на городские улицы. Если очень повезет, то можно
найти автомобили — грузовые и легковые, с необычной рас¬
краской и внешней обвеской. Да-да, это беспилотные авто.
В их создании тоже принимала участие компания Cognitive Pilot.
В содружестве со Сбербанком и знаменитым производителем
грузовых автомобилей КАМАЗом разработчики оборудовали
выделенные для экспериментов авто системами беспилотного
вождения.
На городской улице или по автомагистрали организовать
движение таких беспилотников намного сложнее, чем на же¬
лезной дороге. Факторы риска намного выше. И все же первые
автоматические машины уже пошли «в народ». По инновацион¬
ному центру «Сколково» ходят машины-шаттлы. А не так давно
из Санкт-Петербурга до Москвы выехали и грузовые КАМАЗы.
Эксперимент показал, что машинному разуму, техническому
зрению и грамотному, в соответствии с правилами дорожного
движения, вождению можно полностью доверять.
Беспилотный автомобиль в Сколково

Глава 6. Сами едут, сами правят 95
Для автопилотов есть уже и участок работы. Это местные
линии, по которым перевозятся почта или продукты питания в
сетевые гипермаркеты, это маршруты служебного транспорта
крупных предприятий. Оцифровать весь путь следования, до¬
рожные знаки, разметку, наметить остановочные пункты — зада¬
ча, уже ставшая тривиальной. На любом смартфоне установлена
программа «Яндекс Карты», или «Google Карты», или 2ГИС,
которые умеют прокладывать маршрут, даже могут организовать
поездку «от двери до двери». Так что за беспилотным транс¬
портом — хорошее будущее. Но для предостережения следует
напомнить, что хорошо разрекламированные беспилотные
электромобили Tesla, изготовленные Илоном Маском, выйдя
на городские улицы, привели к нескольким серьезным авари¬
ям. И предприниматель решил на время приостановить этот
проект...
«Самолет — хорошо, пароход — хорошо, а олени лучше», —
пелось в одной песенке. Самое время вернуться к нашим бара¬
нам, то бишь к области, где искусственный интеллект получил
одно из наибольших распространений, где ответственность за
результаты его работы очень высока, потому что связана с самым
дорогим для человека — здоровьем.

Говорится, что естественные
науки подняли силу человека, дали
ему какую-то неведомую мощь.
Они, скорее, низвели природу
до человека, дали возможность
предугадывать его мелкость,
предугадывать, что по должном
расследовании она будет того же
порядка, как и природа человека.
Владимир Вернадский

ГЛАВА 7
ВОИНСТВО БЕЗ КРАСНОЙ
КНОПКИ
Искусственный интеллект на поле боя. Опасность использования
боевых автоматических роботизированных комплексов. Подмена
оператора искусственным «управленцем».
Советские вооруженные силы 1 мая 1960 года получили не¬
ожиданный и очень весомый подарок: в районе Свердловска
ракетой противовоздушной обороны С-75 был сбит высотный
самолет-разведчик США U-2, созданный компанией Lockheed
Martin. Его пилотировал один из самых подготовленных летчи¬
ков, работавших в интересах Центрального разведывательного
управления (ЦРУ), Фрэнсис Гэри Пауэрс. Пролетев над терри¬
торией Афганистана, самолет Пауэрса должен был пересечь всю
территорию СССР с юга на север, пролетев над промышленными
и военными объектами Сибири и Урала, а также местами бази¬
рования соединений Северного флота. Фотокамера, которая
была на нем установлена, фотографировала заводы, позиции
ракетных войск и ПВО, воинские части. Особая радиоаппара¬
тура фиксировала все сеансы связи, определяя рабочие частоты
передатчиков и радиолокаторов. После выполнения разведыва¬
тельного полета U-2 должен был благополучно приземлиться на
военной базе в Норвегии.
Высота в 20 000 метров, на которой летел нарушитель, каза¬
лась до этого недосягаемой для советских ракет. И американская
сторона долгое время отрицала саму возможность подобного
поражения. Но этот несомненный факт прекратил разведыва¬
тельные полеты американских самолетов-шпионов над нашей
территорией. А советские ракетчики поверили в возможность
грозного оружия.

98 Глава 7. Воинство без красной кнопки
Новые возможности для выполнения шпионских миссий
появились только с началом космической эры. На околозем¬
ную орбиту стали запускать спутники-шпионы, высота полета
которых многие десятилетия является гарантией безнаказанного
слежения за противником.
Успехи космической разведки и развитие технических
средств, прежде всего компьютерной техники и средств связи,
позволяют начать создание уникальной боевой системы управ¬
ления войсками, получившей название сетецентрической. Ее
идея заключается в том, что каждое воинское подразделение на
поле боя и в глубоком тылу находится под особым контролем
со стороны высшего командования. Автоматизированные ком¬
плексы, опираясь на глобальную систему позиционирования
(GPS), выдают точное местоположение подразделения или бое¬
вой машины, и старший командир получает данные о детальной
обстановке в режиме реального времени. Интегрированные
комплексы визуальной и радиоразведки, данные от спутников
дистанционного зондирования Земли, самолетов-разведчиков
и беспилотников передают сведения о противнике. Каждый ма¬
невр противоположной стороны тут же становится известным,
и по нему наносится сокрушающий удар.
Благодаря миниатюризации вычислительной техники видео¬
камеры с высоким разрешением и геопривязкой стали доступны
каждому солдату. Оснащенные ими дроны-разведчики могут
часами кружить над местностью, передавая данные об оператив¬
ной обстановке и отслеживая ее изменения. А значит, командир,
управляющий боевыми действиями, может видеть всю карти¬
ну глазами рядового бойца. Такая техническая оснащенность
коренным образом меняет характер ведения боевых действий,
привнося в военное дело высокотехнологичные элементы. Вме¬
сто живой силы более широко используются дистанционные
средства ведения боя — дальнобойная артиллерия и ракетные
системы, ударные беспилотники и авиация. Позиционная вой¬
на, массированные атаки большими подразделениями — все это
уходит в прошлое. Чаще всего до привычных по историческим
фильмам сражений «сила на силу» дело не доходит. И два по¬
следних десятилетия показали, что военное искусство обретает
новые формы.

Глава 7. Воинство без красной кнопки 99
Развитие сети Интернет, появление высокоскоростных
систем мобильной и спутниковой связи создали предпосылки
для невиданной ранее формы организации действий войск на
поле боя. С начала 1990-х годов сетецентрический принцип стал
одним из ключевых в военной реформе, которую проводит воен¬
ное ведомство США. Согласно этому принципу командование,
а также каждая часть на поле боя, каждый танк и даже каждый
солдат объединены в одну информационную сеть, обмениваются
информацией, получают все необходимые сведения о против¬
нике, что должно повысить боеспособность как всей армии, так
и каждого ее компонента.
При такой организации рассеянные по большой территории
боевые единицы смогут постоянно получать новые данные о
целях и действиях частей противника, а руководство будет видеть
реальную боевую картину. В оперативном плане сетецентри¬
ческой называется такая операция (война), где современные
информационные и сетевые технологии для интеграции гео¬
графически рассредоточенных органов управления, средств раз¬
ведки, наблюдения и целеуказания, а также группировок войск
и средств поражения сведены в высокоадаптивную глобальную
систему. Концепция предполагает активное использование
беспилотных самолетов-разведчиков, высокоточного оружия,
хорошо защищенных устойчивых каналов связи с высокой
пропускной способностью, а также средств радиоэлектронной
борьбы. Таким образом, войска смогут наносить удары по про¬
тивнику с больших расстояний и непрерывно.
В технологическом плане сетецентрическая система требует
внедрения новых систем управления, слежения, разведки, кон¬
троля, компьютерного моделирования.
Противники концепции опасаются переизбытка информа¬
ции, что может привести к снижению эффективности управле¬
ния войсками. Также требуется менять традиционную централи¬
зованную систему военной организации и военную подготовку,
организационно-штатную структуру армии.
Возможности сетецентрической системы управления войска¬
ми в полной мере были проявлены во время проведения специ¬
альной военной операции (СВО) на Украине. Информация,
поступающая из районов ведения боевых действий, говорит о

100 Глава 7. Воинство без красной кнопки
том, что противоборствующие стороны используют сетецентри¬
ческие элементы. Такой вывод военные эксперты делают, исходя
из скорости принятия решений и нанесения ударов, например,
при проведении контрбатарейной борьбы, когда артиллерий¬
ским системам после боевой работы приходится мгновенно
уходить из-под удара, чтобы не быть уничтоженными ответным
огнем противника.
Один из красноречивых примеров стал достоянием гласности
в последнее время. Как сообщили французские спецслужбы,
российские войска в зоне спецоперации начали развертывать
новые комплексы автоматизированной системы управления
(АСУ) бригадами радиоэлектронной борьбы РБ-109А «Былина».
По данным французов, российское Минобороны завершило
тестирование новой системы объединения данных радиоэлек¬
тронной борьбы и готовится к широкомасштабному разверты¬
ванию системы в зоне СВО. Это позволит российской армии
усилить возможности радиоэлектронной борьбы. «Былина» в
режиме реального времени анализирует обстановку в районе
боевых действий, находит и классифицирует цели, выбирает
способ их подавления и отдает приказы станциям РЭБ, входя¬
щим в сеть. Все это без участия оператора.
О появлении «Былины» сообщалось еще в 2017 году, в 2018 г.
система должна была начать поступать на вооружение россий¬
ской армии, но испытания затянулись, комплекс тестировали,
в том числе и на Донбассе. Автоматизированная система управ¬
ления (АСУ) бригадами радиоэлектронной борьбы «Былина»
способна объединить в одну сеть и координировать работу в
реальном времени десятков систем РЭБ. РБ-109А — это полно¬
стью автономный комплекс. В его составе пять высокопрохо¬
димых грузовиков, а также оборудование жизнеобеспечения.
После развертывания система автоматически сопрягается с
пунктами управления батальонов, рот, вышестоящим штабом
и с отдельными станциями радиоэлектронной борьбы. Обмен
информацией и команды боевого управления идут в режиме
реального времени.
Алгоритм способен быстро обнаруживать и анализировать
сигналы, используя библиотеку полных сигналов, что упро¬

Глава 7. Воинство без красной кнопки 101
щает подавление сигналов противника путем выбора лучших
устройств для нацеливания. Очень малое время задержки также
делает его очень эффективным при отправке разведданных по
всему фронту.
Автоматизированная система радиоэлектронной борьбы — не
единственное средство ведения современных боевых действий.
В открытой печати уже появлялись сведения о технологии
управления «роем» боевых дронов. Разведывательные и ударные
беспилотные летательные аппараты благодаря новой системе
управления объединяются в своеобразные «рои», которые на¬
правляются в район сосредоточения войск противника. Раз¬
ведчики выявляют открытые и замаскированные цели, а дроны
наносят по ним удар фугасными или осколочными боеприпа¬
сами.
Наземные войска испытали и отряд беспилотных боевых
машин. Такие дистанционно управляемые машины могут вы¬
полнять несколько функций: быть саперами, проделывающими
проходы в минных полях, поддерживать огнем автоматического
оружия атаку пехоты, выполнять дистанционное минирование
местности. И все это в безэкипажном варианте.
Успешно прошли и эксперименты по совместному полету
и выполнению боевого задания самолета и БПЛА «Охотник».
Управляемый летчиком самолет доводит беспилотник до зоны,
где возможно воздействие противовоздушной обороны про¬
тивника, а дальше дрон самостоятельно продолжает полет и
наносит ракетно-бомбовый удар. Такая связка получилась очень
эффективной и в будущем способна оказывать решающее воз¬
действие на врага.
Большой статистический материал для военных ученых и
конструкторов военно-промышленного комплекса дало про¬
ведение специальной военной операции (СВО) на Украине.
Реальные боевые действия позволили не просто проверить в деле
военную технику, отработать тактические приемы комплексного
применения техники и огневых средств, но и испытать интел¬
лектуальные системы. Выводы, которые сделаны, являются
секретом, а потому мы их касаться не будем. Но любопытно
познакомиться с мнением вице-премьера Дениса Мантурова, ку¬
рирующего в том числе и оборонно-промышленный комплекс:

102 Глава 7. Воинство без красной кнопки
«В госпрограмме вооружений на 2025—2034 годы впервые будет
предусмотрен отдельный раздел по искусственному интеллекту.
Повышенное внимание к технологиям искусственного интел¬
лекта обосновано новыми реалиями ведения боя. Практика
применения образцов ВВСТ в СВО показывает, что зачастую
для принятия решений отводятся уже не минуты, а секунды. Без
передачи ряда функций от военнослужащих машине обеспечить
такую оперативность попросту невозможно».
В научно-популярной книге не всегда уместны выходы на
политические аспекты рассматриваемой проблемы. Но без их
упоминания невозможно правильно оценить ряд принимаемых
решений по перспективам развития наукоемких технологий.
Стремление к сохранению мирового лидерства, основанного на
двух факторах — хождении доллара в качестве мировой валюты
и поддержании военной мощи государства, является приори¬
тетной задачей правительства Соединенных Штатов Америки.
Опыт локальных конфликтов последних десятилетий, и особен¬
но проведение специальной военной операции на Украине, по¬
казал, какую роль играют вооружения, оснащенные элементами
искусственного интеллекта.
Пентагон создал программу «Боевая система будущего»
(Future Combat Systems). Это уже был комплекс систем, объеди¬
ненных на глобальном уровне. Все компоненты этой системы
предполагалось связать единой сетью, каждый узел которой
получал бы информацию в режиме реального времени. Однако
из-за слишком больших планов успехом она не увенчалась и
закрылась в 2009 году.
Активизация военного лидерства Л&Д-исследований в об¬
ласти ИИ началась еще в октябре 2016 г. созданием «Совета по
инновациям в области обороны» (Defense Innovation Board), вы¬
пустившего тогда же свой первый набор рекомендаций. Одной
из ключевых рекомендаций было создание «централизованной,
целенаправленной и обеспеченной ресурсами организации» в
рамках министерства обороны, чтобы «продвигать прикладные
исследования в области искусственного интеллекта и машин¬
ного обучения».
Недавно Пентагон трансформировал эту рекомендацию в
реальность, опубликовав меморандум, в котором официально

Глава 7. Воинство без красной кнопки 103
объявлялось о создании Объединенного центра искусственного
интеллекта Министерства обороны (JAIC). Согласно меморан¬
думу главная цель JAIC — ускорить разработку военных решений
на основе AI, масштабировать применение его инструментов и
синхронизировать усилия участников исследований и разра¬
боток. На эти цели JAIC планирует израсходовать в ближайшие
шесть лет 1,7 млрд $.
«Это начало очень, очень большой программы, которая за¬
тронет всех», — так прокомментировал открытие JAIC предсе¬
датель «Совета по инновациям в области обороны» США Эрик
Шмидт, бывший руководитель Google и Alphabet.
Секрет такой активизации военных США вокруг ИИ прост.
После окончания холодной войны США располагали практи¬
чески непревзойденным статусом сверхдержавы. Важнейшим
фактором, обусловившим этот статус, было ее неоспоримое
военно-технологическое превосходство. Тем не менее техноло¬
гии, которые лежали в основе обороны американских военных
в прошлом (например высокоточное оружие), распространи¬
лись по миру вследствие глобализации и передачи технологий.
В результате страны — конкуренты США развили собственные
возможности, которые позволяют бросить вызов американскому
военному превосходству.
Министерство обороны США, чтобы сохранить и расширить
свое военное преимущество в будущем, сделало ставку на ИИ-
технологии, потенциальное применение которых в военной
области весьма разнообразно: от повышения эффективности
логистических систем до более чувствительных задач, таких
как автоматическое управление и контроль в современных си¬
стемах вооружения. Стратегия национальной обороны 2018 г.
предполагает, что ИИ скорее всего изменит характер войны.
И потому, по словам замминистра обороны Патрика Шэнахэна,
Соединенные Штаты «должны стремиться к применению ИИ с
дерзновением и готовностью».
Идея о единой сети, собирающей информацию от разных
подразделений армии для ускорения взаимодействия частей,
появилась еще в прошлом веке. Однако сейчас она еще более
актуальна: с появлением огромного количества средств развед¬
ки и огневого поражения быстро разбросать нужные данные

104 Глава 7. Воинство без красной кнопки
по ключевым пунктам стало возможно лишь с применением
огромных вычислительных мощностей компьютера.
Сетецентрическая военная концепция подразумевает, что
армия должна действовать как единая система: все участники
действуют в объединенной информационной сети, точнее, пере¬
носят туда данные о своих действиях. В нее загружают данные
разведки, навигации и связи.
Существует так называемый цикл управления войсками.
Это время, необходимое для принятия решения по некой бо¬
евой задаче и подготовки людей и техники к ее выполнению.
Чем короче этот цикл, тем выше боевая эффективность, если,
конечно, решение не было принято наскоро.
Единая система должна сократить этот цикл и при этом не
дать снизить правильность принимаемых решений. Это пока не
искусственный интеллект, это лишь обработка данных, реше¬
ние же остается за командиром. Возможно, системе разрешено
отмечать наиболее важные события или цели и предлагать их
человеку, но не работать по ним самой.
Приведем пример, как это работает. Беспилотник, спутник
или самолет находит цель и загружает ее координаты в сеть.
Далее эта информация идет на огневые средства поражения,
устанавливающие координаты автоматически. Затем система
запрашивает разрешение командира на поражение цели. Раз¬
умеется, такая схема работает быстрее, чем перенос координат
вручную. Эксперты отмечают, что пока это не революция в во¬
енном деле, но близко к ней.
Попробуем описать систему физически: это множество ком¬
пьютеров, связанных между собой и непрерывно ведущих рас¬
четы. Сложность в том, что компьютер должен быть установлен
на каждом элементе этой системы — на экипировке, установ¬
ках, аппаратах. Это не только огромные финансовые затраты,
но и технические сложности. Попробуй установи современный
компьютер на оружии, созданном в прошлом веке, — надо
переделать и интегрировать множество систем. Это означает
модернизацию всего оружия, и явно проще создать новое, с
уже готовой платформой для такой системы. Каждый человек,
каждый автомат тоже должен быть подключен к системе. Но
это в идеале. Поэтому пока система работает лишь с новым

Глава 7. Воинство без красной кнопки 105
оборудованием и в основном занимается передачей коор¬
динат.
Полтора года назад сообщалось, что в России проводились
первые сетецентрические учения. Назвали их так потому, что
военные применили единую систему управления тактического
звена. В частности, система позволила корректировать огонь в
режиме реального времени при помощи беспилотников и других
средств разведки.
Еще в СССР использовалась система «Маневр», помогающая
управлять войсками полка или дивизии. Логично: расчетных
мощностей компьютеров еще не хватало на большее. Эксперты
говорят, что именно в Советском Союзе зародилась сама идея
подобной системы.
Есть подобные разработки и в других странах, их тоже начали
вести несколько десятков лет назад, фактически с появлением
достаточно мощных и относительно портативных компьютеров.
Очевидно, что любые достижения техники немедленно начина¬
ют эксплуатироваться военными.
Внедрение искусственного интеллекта в управление вой¬
сками для ведения боевых действий, разработка беспилотных
боевых систем широкого спектра действия, появление новых
систем разведки, а также средств радиоэлектронной борьбы
оказали существенное влияние на характер войны. Массовое
применение обезличенной техники, особенно таких всеобъ¬
емлющих систем, как раннее предупреждение о нанесении
ракетно-ядерного удара, автоматизированных комплексов,
получивших название «Мертвая рука», которые без вмешатель¬
ства человека сами принимают решение о нанесении ответно¬
встречного удара стратегическими ядерными силами, резко по¬
вышают уровень ответственности за сохранение человечества.
И если в ядерной триаде (стратегические ракеты наземного
базирования, атомный подводный и надводный флот, авиация)
имеется пресловутая красная кнопка (а на самом деле много¬
ступенчатая система предотвращения несанкционированных
пусков), то искусственный интеллект невозможно проконтро¬
лировать. И как себя поведет умная техника, никто не может
предсказать.

106 Глава 7. Воинство без красной кнопки
Очевидно, что у виртуальных «воинов» обязательно должны
быть ограничительные инструменты, которые могли бы удер¬
живать искусственный интеллект в «разумных» пределах. И по¬
скольку ИИ является порождением человека, в распоряжении
разработчика должны быть «полицейские» средства против
такого фантастического феномена, как бунт машин.

Человек — единственное животное,
которое может скучать, быть
недовольным, чувствовать себя
изгнанным из рая. Человек —
единственное животное,
для которого собственное
существование составляет
проблему, которую он должен
разрешить и которую не может
избежать. Он не может вернуться
к дочеловеческому состоянию
гармонии с природой; он должен
продолжать развивать свой разум,
пока не станет хозяином природы
и хозяином самому себе.
Эрих Фромм

ГЛАВА 8
ВСЕОБЪЕМЛЮЩАЯ ПОМОЩЬ
ИЛИ БУНТ МАШИН.
ЧТО ПРЕДВИДЯТ УЧЕНЫЕ?
Особенности создания устройств с искусственным интеллектом
и их повсеместное применение. Хакерские атаки на кошельки и
промышленные объекты. Как предупредить выход вычислительной
техники из-под контроля человека?
В современных условиях в передовых в технологическом от¬
ношении странах искусственный интеллект превратился фак¬
тически в целую индустрию, позволяющую эффективно решать
проблемы и задачи повседневности. В нынешних условиях
устойчивый экономический рост невозможен без внедрения
инноваций. Глобальные тренды в сфере информационного
цифрового общества, а также экономики знаний составляют
повестку современного развития цивилизации. Искусственный
интеллект, с точки зрения аналитиков, является одним из дей¬
ственных путей преодоления страной кризисных экономических
состояний. Во многом решение даже самых простых трудовых
задач сегодня отводится механизмам, в силу чего трудовая ми¬
грация в России сокращается. В связи с этим значение внедрения
искусственного интеллекта в различные сферы жизнедеятель¬
ности все более возрастает.
Российская Федерация не является исключением: на терри¬
тории страны технологии искусственного интеллекта активно
внедряются в ежедневные практики. При этом они призваны
упростить жизнь не только отдельно взятых групп людей (на¬
пример бизнесменов, инвалидов и т.д.), но и общества в целом.
Поэтому финансовые вложения в развитие искусственного ин¬
теллекта, которые осуществляются крупными отечественными

Глава 8. Всеобъемлющая помощь или бунт машин... 109
компаниями, считаются перспективными: их последующее
использование позволит не только окупить стартовое финан¬
сирование, но и увеличить доход.
Достижения в области искусственного интеллекта в России
активно применяются в самых различных сферах, в частности
в финансовой, социальной и даже в тяжелой промышленности.
Примером тому может служить использование искусственного
интеллекта Сбербанком, который еще в 2020 г. запустил систе¬
му виртуальных ассистентов «Салют», помогающих совершать
покупки, переводить деньги, а также подбирать фильмы для
вечернего просмотра. Однако для использования функциона¬
ла «Салюта» в полном объеме пользователю необходимо было
приобрести приставку SberBox и смарт-дисплей SberPortal. Се¬
годня Сбербанк активно применяет систему распознавания
лиц, позволяющую ускорить процесс идентификации клиентов.
Face ID
(источник — URL: https://www.shutterstock.com/ru/image-vector/isometric-
face-recognition-personal-identification-technologies-2336746721)

110 Глава 8. Всеобъемлющая помощь или бунт машин...
Для многих смартфонов система разблокировки Face ID стала
де-факто обязательной к установке. Она позволяет не только
разблокировать телефонный аппарат, но и выполнить под¬
тверждение ряда операций, к примеру загрузку или обновление
контента, выполнение платежных операций и многое другое.
Сбер активно использует такие технологии, как распо¬
знавание лиц, наряду с традиционным введением пин-кода и
смс-сообщениями, приходящими на телефонный номер. Все
современные банкоматы оснащены камерами. Они служат не
только для контроля безопасного обслуживания граждан, но
и для управления счетом с помощью Face ID. Это, безусловно,
удобно, поскольку предотвращает использование банковской
карты преступными элементами.
Наконец, искусственный интеллект применяется Сбербан¬
ком в целях успешного решения кадровых вопросов: система
позволяет проанализировать резюме кандидата и выявить
наличие либо отсутствие риска его быстрого ухода из ком¬
пании.
В социальной сфере искусственный интеллект в России —
это внедрение в общественные практики разработок кампании
«Яндекс», в частности Yandex SpeechKit — специального сервиса,
позволяющего не только распознавать речь, но и синтезировать
ее на нескольких языках. Данный сервис дает возможность
общения с клиентами без помощи операторов. Благодаря дей¬
ствиям робота потребитель услуги может записаться на ее полу¬
чение, а после предоставления — оставить отзыв. Также робот
готов совершать «холодные» звонки, позволяющие существенно
расширить аудиторию пользователей услуг. Поскольку искус¬
ственный интеллект способен распознавать речь, общение с
потенциальным получателем услуги осуществляется по скрипту,
по результатам которого собранные сведения передаются ме¬
неджерам для дальнейшей обработки. Несмотря на то что при¬
менение искусственного интеллекта позволяет лишь частично
выполнить работу, которая до его внедрения производилась
специалистами, его использование позволяет существенно со¬
кратить время, отводимое на рекламу и общение с клиентами.
При этом при использовании компанией автоматизированных
звонков с применением технологии синтеза и распознавания

Глава 8. Всеобъемлющая помощь или бунт машин... 111
речи сравнительно небольшой процент клиентов способен от¬
личить речь реального человека от робота.
Наконец, искусственный интеллект применяется также в
тяжелой промышленности. Так, еще в июне 2020 г. в компании
«Северсталь» впервые было внедрено применение искусствен¬
ного интеллекта на Череповецком металлургическом комбинате.
В работу были введены «Рубан» и «Аделина», благодаря которым
осуществляется управление непрерывно-травильным агрегатом.
В частности, «Рубан» действует одновременно с цифровой мо¬
делью «Аделина», установленной на НТА-3 ранее. «Аделина»
способна вычислять скорость управления агрегатом, а агент
осуществляет ее коррекцию в целях достижения требуемого
результата. Благодаря их внедрению производственный процесс
стал более гибким и безопасным в силу того, что сама модель,
равно как и агент, обладает возможностью в любую единицу
времени оперативно реагировать на различные непредвиденные
ситуации.
Другим наглядным примером стало применение компанией
«Северсталь-метиз» технологии искусственного интеллекта.
Ее использовали при создании модернизированной системы
навигации AGV(Automatic Guided Vehicle — автоматически управ¬
ляемый транспорт). Кто видел, пусть даже по телевизору, какая
напряженная обстановка царит на металлургических комбина¬
тах, поймет, насколько важно обеспечить согласованную работу
всех производственных звеньев. Расплавленный металл пред¬
ставляет собою большую травматическую опасность, к тому же
технология производства стали, особенно высококачественной,
которая, к примеру, используется для арктических нефтегазовых
проектов, требует очень точного соблюдения технологических
норм.
Новая интеллектуальная система обеспечивает автономное
движение AGV, используя тип навигационной технологии —
Natural Features Navigation — навигацию по характерным точкам
естественного окружения (окружающей среды). Она выбирает
оптимальную траекторию, не мешая производственным про¬
цессам и не создавая опасных ситуаций. Программное обеспе¬
чение — полностью отечественная разработка с участием одного
из ведущих университетов Санкт-Петербурга.

112 Глава 8. Всеобъемлющая помощь или бунт машин...
AGV на комбинате
(источник — URL: https://www.shutterstock.com/ru/image-photo/futuristic-
technology-concept-team-engineers-professionals-2198543241)
AGV выполняет задачи и ориентируется в пространстве с
помощью лидара и трех специальных видеокамер, которые
установлены в процессе модернизации системы навигации.
Автоматически управляемый транспорт работает на «Север¬
сталь-метизе» с 2020 года. Он заменяет работу погрузчика с
водителем, перевозит проволоку-заготовку на следующий этап
производства арматурных канатов (прядей).
За время использования AGV на комбинате отметили ряд
позитивных эффектов, в частности снижение простоев обору¬
дования, отсутствие лишнего складирования заготовки. Новые
функции автоматического управляемого транспорта помогут
сделать производство еще более ритмичным и эффективным.
В будущем руководство ОАО «Северсталь-метиз» планирует рас¬
ширять сферу применения современных цифровых технологий
на предприятиях компании.
Таким образом, в Российской Федерации искусственный ин¬
теллект применяется в самых различных областях человеческой
жизнедеятельности. Безусловно, его внедрение позволяет упро¬
стить и ускорить работу сотрудников, повысить результативность
производства, чем обусловлено стремление все большего числа
отечественных компаний начать использование искусственного

Глава 8. Всеобъемлющая помощь или бунт машин... 113
интеллекта на практике. Однако, если говорить о перспективах
искусственного интеллекта в нашей стране, в ближайшее десяти¬
летие стремительных прорывов в его использовании ожидать не
приходится. В первую очередь это обусловлено тем, что на долю
российских предприятий приходится сравнительно небольшой
объем мирового рынка разработок в области искусственного
интеллекта. Кроме того, незначительные объемы его примене¬
ния на внутреннем рынке негативным образом сказываются на
развитии собственно российских производств.
В числе основных причин, определяющих более низкие
темпы развития российского рынка искусственного интеллекта,
следует отметить невысокий спрос потребителей на данный вид
технологий. В частности, еще в конце 2019 г. лишь 30% крупных
отечественных компаний активно внедряли искусственный
интеллект в производство, в то время как оставшиеся 70% лишь
планировали оптимизировать производство посредством вне¬
дрения технологий искусственного интеллекта в ближайшие
1—2 года. Во многом сложившаяся ситуация обусловлена тра¬
диционализмом руководства кампаний, их приверженностью
управленческим решениям, проверенным временем и, как
им представляется, более надежным. Так, полный переход на
электронный документооборот с внедрением в данный про¬
цесс систем искусственного интеллекта руководителям многих
предприятий кажется невозможным в силу стремления хранить
бумажные версии документов. Поэтому логично заключить,
что будущее искусственного интеллекта в России зависит не
от степени масштабности его внедрения в ту или иную отрасль
производства, а в первую очередь от трансформации сознания
россиян, их внутренней готовности позитивно воспринимать
достижения прогресса.
В связи с этим внедрение передовых технологий должно быть
отражением процесса не только экономической, но и социаль¬
ной цифровизации российского общества. Последняя, в свою
очередь, является важным интегративным показателем готовно¬
сти социума к стремительному прогрессу в области применения
технологий искусственного интеллекта. Стоит отметить, что на
современном этапе развития российского общества, несмотря на
активное насаждение в рамках различных социальных практик

114 Глава 8. Всеобъемлющая помощь или бунт машин...
необходимости использования техники и технологий, на терри¬
тории Российской Федерации население остается на желаемом
уровне цифровой зрелости. В силу указанного обстоятельства
качество и доступность данных, генерируемых благодаря ис¬
кусственному интеллекту, также находятся на желаемом уровне,
вследствие чего в России не удается сформировать высокий
спрос на его потребление.
На первый взгляд, неприятие широкого внедрения искус¬
ственного интеллекта большинством руководителей российских
компаний, являющихся приверженцами традиционных методов
производства, является основанием для пессимистичного про¬
гноза его развития в будущем. В то же время на необходимость и
значимость внедрения передовых технологий указывают специ¬
альные акты, а также основной закон Российской Федерации.
Так, в действующей редакции Конституции РФ значится, что в
числе других социальных ценностей на первое место выдвигается
человек, а также присущие ему права и свободы. В свою очередь,
активное развитие информационных технологий способствует
реализации прав и свобод личности, существенно расширяет ее
возможности за счет усиления эффектов глобализации, прогрес¬
са в сфере техники и технологий, установления прочных связей
в научной и исследовательской областях. Применение возмож¬
ностей искусственного интеллекта значительно упрощает взаи¬
модействие между жителями различных государств, облегчает
общение и интеграцию в научной, культурной, экономической
и иных сферах жизнедеятельности современного общества.
Таким образом, в основном законе российского государства
закладывается возможность раскрытия неисчерпаемого потен¬
циала использования искусственного интеллекта на стадии его
развития на сегодняшний день, а также в будущем.
Помимо Конституции РФ, в которой, однако, прямо не
указывается на необходимость внедрения в практику высо¬
ких технологий, приоритетность применения искусственного
интеллекта в России находит отражение в соответствующей
программно-целевой документации. В частности, к данной
категории документов относится «Стратегия развития информа¬
ционного общества в Российской Федерации на период с 2017 по
2030 гг.», утвержденная президентским указом еще в мае 2017 г.

Глава 8. Всеобъемлющая помощь или бунт машин... 115
В соответствии с ней искусственный интеллект признается
одним из приоритетных направлений развития отечественных
информационных и коммуникационных технологий. В тексте
указывается, что данный документ носит стратегический харак¬
тер, а реализация его базовых принципов должна способствовать
оптимизации функционирования российского государства в
современном информационном обществе. При этом, наряду с
широким использованием мобильных устройств и Интернета,
с применением информационных и коммуникационных техно¬
логий на всех уровнях управления, с туманными вычислениями,
искусственный интеллект лишь упоминается в качестве одного
из направлений технологического развития России. Он высту¬
пает основой научного и технического прогресса, повышения
качества образования, сохранения и трансляции российских
культурных ценностей. При этом конкретного плана действий,
реализация которых привела бы к стимулированию разработки
и внедрения в повседневные социальные практики россиян ис¬
кусственного интеллекта, данная стратегия не содержит. Речь
идет о развитии отечественных информационных технологий в
целом, перечень которых, как указывается в документе, может
быть изменен по мере возникновения новых технологических
решений.
Позднее, 10 октября 2019 г., В.В. Путиным была принята На¬
циональная стратегия развития искусственного интеллекта на
период до 2030 г., в которой уже более подробно прописываются
этапы его продвижения в России. В частности, в тексте данного
документа подчеркивается, что несоответствие показателей
внедрения искусственного интеллекта в Российской Федерации
уровню других стран может привести к ее отставанию в тех¬
нико-технологическом отношении, что в свою очередь может
стать причиной снижения показателей во всех сферах жизнеде¬
ятельности человека, в которых в других странах активно при¬
меняются возможности искусственного интеллекта. При этом
дополнительно оговаривается, что на сегодняшний день в мире
осуществляется стремительное внедрение новых технологиче¬
ских решений в отдельных отраслях экономики и общественных
отношений, которые вырабатывались на базе искусственного
интеллекта. Отмечается, что, по предварительным статистиче¬

116 Глава 8. Всеобъемлющая помощь или бунт машин...
ским расчетам, использование данных решений может оказать
положительное влияние на изменение мировой экономики, рост
которой к 2024 г. должен составить около 1 трлн долл. США.
Иными словами, Стратегия 2019 г. связывает широкое внедрение
искусственного интеллекта, а также информированность на¬
селения о преимуществах и возможностях его использования с
прогрессом во всех сферах жизни российского общества.
Таким образом, будущее искусственного интеллекта в Рос¬
сии определяется, с одной стороны, политикой государства,
убежденного в необходимости и целесообразности использова¬
ния передовых технологий, с другой — предвзятым отношением
населения, которое чаще отдает предпочтение привычным
решениям, нежели инновациям. В данном случае перспективы
искусственного интеллекта зависят от степени стремления го¬
сударства, а также наличия у него соответствующих ресурсов,
позволяющих разъяснить гражданам выгоды от применения
новых технологий в самых различных областях жизнедеятель¬
ности.
Кроме того, россиянам следует принимать во внимание опыт
эпидемии COVID-19, когда сильно возросло значение передовых
технологий, многие из которых применяются до сих пор. Их
широкое внедрение было обусловлено стремительностью рас¬
пространения угрозы заболевания, т.к. методы, применяемые в
борьбе с эпидемиями ранее, доказали свою низкую эффектив¬
ность. В то же время использование искусственного интеллекта
должно учитывать потенциальные риски и угрозы, связанные с
новой высокотехнологичной реальностью. Ведь формирование
нетрадиционной реальности не только облегчает повседневную
жизнь, но и может стать причиной новых кризисов. В особен¬
ности это касается внедрения технологий искусственного
интеллекта в виртуальную среду, которая, несмотря на все за¬
конодательные инициативы государства, остается защищенной
лишь частично. Внедрение технологий искусственного интел¬
лекта также предполагает возникновение целого ряда проблем
правового и нравственно-этического характера.
Как уже отмечалось выше, необходимость развития ис¬
кусственного интеллекта в России продиктована требованием
поддержания страной должного уровня развития техники и

Глава 8. Всеобъемлющая помощь или бунт машин... 117
технологий, позволяющего ей не отставать от прогрессивных в
технологическом отношении стран.
Но если все так здорово с использованием искусственного
интеллекта, то почему мировые лидеры общественного мнения
вдруг забили в набат, предупреждая об опасностях, которые таит
в себе машинный разум?
Раз за разом информационные службы разносят вести о
компьютерных атаках на серверы ведущих мировых компа¬
ний, банков, избирательных комиссий. Были случаи прорыва
хакеров в такие закрытые системы, как оборонные ведомства,
министерства внутренних дел. Сообщалось, что не раз и не два
злоумышленники пытались войти в информационное простран¬
ство АО «Российские железные дороги», чтобы вызвать сбой в
движении поездов. Такие атаки успешно отбивались, но анализ
их возникновения показывает, что здесь не обошлось без исполь¬
зования искусственного интеллекта. На нем построены чат-боты,
способные одновременно рассылать десятки тысяч телефонных
звонков или информационных запросов, которые перегружают
слабозащищенные системы или вызывают их коллапс.
Современные технологии создают новые ценности, но могут
повлечь за собой и новые опасности. Например, Интернет ве¬
щей, вероятно, повысит уровень безопасности в городах, снизит
нагрузку на транспортную инфраструктуру, улучшит здраво¬
охранение, обеспечит экономию электроэнергии муниципаль¬
ным хозяйствам. В то же время распространение IoT скорее
всего увеличит нестабильность во многих сферах экономики:
большинство новых технологий вызывает временный ажиотаж и
бездумные инвестиции (как блокчейн и криптовалюты). Кроме
того, возникнут новые проблемы в области кибербезопасности:
хакеры будут стремиться извлечь выгоду из распространения Ин¬
тернета вещей, кибератак будет больше, чем когда бы то ни было.
Унифицировать методы разработки, испытания и внедрения
ИИ, гарантировать предсказуемый и достаточно качественный
результат экспериментов помогут отраслевые стандарты. По
причине того что искусственный интеллект на сегодняшний
день может быть создан только человеком, в первую очередь от
разработчика зависит возможность появления технологических
бунтарей.

118 Глава 8. Всеобъемлющая помощь или бунт машин...
Конечно, такую работу должны выполнять все компании,
участвующие в работах по развитию ИИ. Среди них имеются
такие мировые гиганты, как, скажем, Google, который контро¬
лирует 90% мировой поисковой системы, или Meta, держащая
пальму первенства по контекстной рекламе. От них, от позиции
руководства зависит очень многое, а главное — готовность дей¬
ствовать в цивилизованных рамках.
В России в 2012 году был создан Фонд перспективных иссле¬
дований. Его задачей было содействие осуществлению научных
разработок в сфере инновационных технологий и производства
высокотехнологичной продукции военного, специального и
двойного назначения. Разработанные ФПИ правила и методы
оценки первых проектов по созданию технологий, которые
мы сегодня называем искусственным интеллектом, позволили
стандартизировать эту работу. И сегодня в Российской Федера¬
ции существует серия национальных стандартов в области ИИ.
Сергей Гарбук, возглавляющий эту деятельность, считает,
что унифицированные методы испытания ИИ гарантируют
предсказуемый и качественный результат экспериментов. Есть
и дополнительные функции, которые присутствуют в работе
любого технологического комитета по развитию информа¬
ционных технологий: унификация форматов, обеспечение
терминологического единства и так далее. Начали эту работу,
ориентируясь на задачи безопасности, причем безопасности,
трактуемой максимально широко: предлагаемые методики
испытания необходимы везде, где речь идет об угрозе жизни и
здоровью людей в случае некорректной работы системы. Име¬
ется в виду множество отраслей и направлений — транспорт,
медицина, технические средства обеспечения безопасности,
промышленность и так далее. Отсутствие испытаний, гаранти¬
рующих качество работы систем, является, как сейчас принято
говорить, нормативно-техническим барьером к их внедрению.

Никогда не поздно поумнеть.
Даниэль Дефо

ГЛАВА 9
О ЧЕМ ПРЕДУПРЕЖДАЛ
ДЖОНАТАН СВИФТ?
Оценка возможностей искусственного интеллекта. Приводит ли
технический прогресс к разрушительным последствиям? Насколько
обучаемо человечество? Пророчества оракулов древности и со¬
временности. Ответственность разработчиков искусственного
интеллекта.
Во многих музеях можно увидеть античные скульптуры. Из¬
ваянные из белоснежного мрамора, они кажутся вечными.
И запечатленные в них образы древних греков или римлян до¬
носят до нас само дыхание далеких времен. Среди артефактов,
удивляющих сегодняшних людей, есть несколько образцов,
которые кажутся порождением или абсолютного гения, или...
мастеров внеземных цивилизаций.
Один такой шедевр — скульптуры итальянских мастеров, ко¬
торые не в состоянии повторить наш современник. Это женские
фигуры, чьи лица скрывает тончайшая вуаль. Некоторые иссле¬
дователи полагали, что такие скульптуры — искусная отливка, а
мастер применил технологию литья из расплавленного мрамора.
Но такое утверждение не выдерживает критики. Мрамор чрез¬
вычайно трудно расплавить, ведь это минерал, а не металл, но
даже в этом случае накрыть лицо фигуры каменной же вуалью
практически невозможно.
Другой феномен — знаменитые китайские полые шары из
слоновой кости, которые вставлены одни в другой, при этом
каждый из них может вращаться относительно друг друга. Шары
не простые: они богато украшены затейливой резьбой с жи¬
вотными или мифологическими рисунками. У самых сложных
шаров число сфер — 25! Самые дальние имеют толщину бумаги.

Глава 9. О чем предупреждал Джонатан Свифт? 121
Шары-пазлы, слоновая кость, диаметром от 1,75 до 4 дюймов, конец
XIX века, Китай. «Наследие», музей азиатского искусства
Как их мог вырезать мастер, используя только резец и иголки,
недоступно нашему пониманию.
Но... Мне довелось побывать в нескольких компаниях, кото¬
рые развивают трехмерную печать. И я увидел в выставленных
на стеллажах образцах... знаменитые китайские «шары дьявола»,
как их за невероятную сложность прозвали европейцы. Правда,
шары были напечатаны из пластика, но точно так же вращались
внутри друг друга. Как мне объяснили в компании, управлял
принтером 3D-печати искусственный интеллект, который полу¬
чил сканированное изображение шара.
Итак, что же может искусственный интеллект в качестве
творца?
Мы упомянули о студенте, написавшем дипломную работу с
помощью нейросети. Этот прецедент обсуждался не только в вузе
и в профильном министерстве, но и в компаниях, которые зани¬
маются антиплагиатом. Всякий творческий труд подразумевает
индивидуальную (или групповую, если это соавторы, например
писатели Ильф и Петров, художники Кукрыниксы, поэты — братья
Жемчужниковы, родители знаменитого Козьмы Пруткова) дея¬
тельность. К таланту, который на 90% состоит из труда, прилагается
иногда толика гениальности. Владимир Маяковский писал о том,
что «поэзия — та же добыча радия. В грамм добыча, в годы труды.
Изводишь единого слова ради тысячи тонн словесной руды».

122 Глава 9. О чем предупреждал Джонатан Свифт?
И вдруг появляется его величество искусственный интел¬
лект. Мощная нейросеть, быстродействующие квантовые или
фотонные компьютеры, миллионы образцов скульптур, кар¬
тин, музыкальных произведений. Машина получает команду
написать короткий юмористический рассказ в стиле раннего
Антона Павловича Чехова. Компьютер бегло читает все, что вы¬
шло из-под пера писателя, и тут же, основываясь на авторском
стиле, выдает новый рассказ. Иногда стилизация получается
такой удачной, что даже опытные литературоведы не могут с
уверенностью сказать, что это творение машины.
В печати были публикации о современных скульптурах, из¬
ваянных ИИ. Их не отличишь от древнегреческих или римских.
Но как нужно относиться к такому творчеству? Формально
есть новое произведение искусства. Есть его автор. Не станете
же вы всерьез приписывать заслуги бездушной вычислительной
машине?! А с другой стороны, за этим артобъектом не стоит ни
авторское озарение, ни мучительные поиски позы, выражения
лица скульптуры. Просто человек продиктовал машине, уме¬
ющей различать речь: изваяй мне скульптуру в стиле Родена
или Праксителя. А то и самого Пигмалиона. И машина будет
анализировать сотни образов, находящихся в ее памяти, а за¬
тем робот-манипулятор при помощи молотка и зубила просто
отсечет все лишнее от глыбы мрамора...
Нравственный аспект все отчетливее выделяется в заявле¬
ниях многих авторитетных ученых и разработчиков ИИ. Лю¬
бопытную мысль высказали некоторые специалисты в области
искусственного интеллекта из фонда «Сколково». Они считают,
что мы уже находимся на пороге новой эры творчества, когда
ИИ и художник становятся соавторами, дополняя друг друга в
некоторых областях.
Новые цифровые технологии, в частности искусственный
интеллект, не только кардинально меняют характер «традици¬
онных» технических профессий, но и проникают в художествен¬
ную среду. Они влияют на творческие процессы: даже возник
феномен под названием «цифровое искусство».
Они уже начали играть очень важную роль в творческой
деятельности, такой как музыка, архитектура, изобразительное
искусство. Это раньше художник Александр Иванов, работая над

Глава 9. О чем предупреждал Джонатан Свифт? 123
эпохальным полотном «Явление Христа народу», выставленным
в Третьяковской галерее, сделал несколько сотен эскизов, вы¬
писывая лица героев картины, их разные позы, пейзажи.
Или взять гениального Петра Чайковского, сумевшего при
помощи музыки передать сложнейшие человеческие чувства.
Можно посмотреть на листы, испещренные убористым почер¬
ком гениального Пушкина с десятками зачеркнутых строчек, с
рисунками героев, профилями друзей поэта...
А сегодня без использования цифровой обработки и ком¬
пьютерных эффектов невозможно себе представить ни со¬
временный кинематограф, ни музыку. Компьютер в наши дни
в прямом смысле стал и холстом, и кистью, и музыкальным
инструментом. Можно ли винить в этом композитора или
художника? Вопрос далеко не однозначный. Музыкальный
синтезатор способен предоставить композитору выбор звуков,
которые трудно извлечь из традиционных инструментов. Но
последние способны передать дыхание космоса или знойной
пустыни, атмосферу далекой планеты, рычание диковинных
животных. В двух фильмах — «Пятый элемент» и «Фаринелли-
кастрат» — цифровые технологии позволили создать голоса га¬
лактической певицы Плавалагуны и непревзойденного тенора,
жившего задолго до изобретения Эдисоном звукозаписываю¬
щего аппарата...
Увлеченность возможностями нейросетей, наверное, при¬
ведет к тому, что следующей ступенью в развитии цифрового
искусства станет использование компьютера уже не только в
качестве инструмента реализации идей человека, но и в качестве
самостоятельной творческой сущности. Как бы ни были фан¬
тастичны такие предположения, но на наших глазах возникает
новое направление искусственного интеллекта (ИИ) под на¬
званием «вычислительное творчество». Мы уже находимся на
пороге новой эры творчества, когда ИИ и художник становятся
соавторами, дополняя друг друга в тех областях и «умениях», где
они наиболее сильны.
Разные люди относятся к такому повороту в развитии техно¬
логий по-разному. Кто-то считает происходящее не более чем
шуткой, этакой «игрой капризного ума», а кто-то решительно

124 Глава 9. О чем предупреждал Джонатан Свифт?
протестует, понимая, что тем самым нарушаются и нравствен¬
ные, и юридические законы и нормы человеческого бытия.
На картинах художников вы обязательно увидите подпись
или особые символы — знак аутентичности произведения. Мно¬
гие средневековые мастера ставили на свои изделия авторское
клеймо. Уникальные знаки имеют фарфоровые сервизы, фи¬
гурки. А как быть с «охранной грамотой» творения, созданного
искусственным разумом?!
Мы упоминали об открытом обращении ряда авторитетных
личностей с требованием ограничить дальнейшие разработки
технологий ИИ. Но вот буквально вчера в одном из телевизион¬
ных сюжетов рассказали о шалостях американских школьников,
которые наводнили социальные сети одноклассников непри¬
стойными фотографиями девочек, сгенерированными дипфей-
ком. Скандал не только всколыхнул школьную среду, но и вызвал
реакцию со стороны родителей и со стороны государственных
мужей. Эта шалость оказалась не столь безобидной, как могло
бы показаться на первый взгляд. Нарушается конституционное
право гражданина на личную жизнь.
Так что же делать? Как относиться к двуликому Янусу — ис¬
кусственному интеллекту? Как к помощнику и ускорителю
прогресса или темной силе, способной принести человечеству
неисчислимые беды?!
Чтобы найти для себя ответы на такие непростые вопросы,
посмотрим на существующие методы работы ИИ с изображени¬
ем. Выясним, могут ли они претендовать на самостоятельность
в творчестве.
Самой простой и популярной формой использования ИИ в
творчестве можно назвать Neural style transfer. Она использует
стилизацию изображения и построена на основе сверхточных
нейронных сетей (CNN). Модель внедрена в такие популярные
мобильные приложения, как DeepArt и Prisma. Берутся два
изображения — шаблон-стиль и оригинал. При высокой сти¬
лизации алгоритм оптимизирует параметры таким образом, что
результаты преобразования шаблона и оригинала максимально
близки в промежуточных слоях CNN, которые отвечают за
метаобраз. Фактор стилизации может регулироваться. Техно¬
логия позволяет успешно имитировать стиль Ван Гога, Моне

Глава 9. О чем предупреждал Джонатан Свифт? 125
по библиотеке шаблонов. Каждому шаблону соответствует сет
параметров предобученной нейронной сети. Ее разработчики
не предполагали создавать доселе неизвестные шедевры им¬
прессионистов. Задача тривиальная — использовать хорошо
известные образы персонажей в рекламе и продвижении товара.
Такие приемы были довольно широко распространены еще век
назад, но тогда на известные сюжеты рисовались рекламные
слоганы.
При таких технологиях вопрос об авторском праве элегант¬
но обходится. ИИ создает собирательный образ на основании
узнаваемых брендов, дополняя его «случайным шумом».
Возможности использования слоев нейронной сети развиты
в технологии DeepDream, над которой работали программисты
компании Google. Если на вход модели подается фотография
реального объекта, то результат сложно отличить от работы
художника — технология проходит тест Тьюринга. Параметром
модели является глубина обработки — фактически номер слоя
нейронной сети. Результат применения по стилю ближе всего к
психоделическому искусству 80-х годов или картинам позднего
Сальвадора Дали.
Однако возвратимся на светлую сторону. Искусственный
интеллект — незаменимая вещь, когда речь заходит об образо¬
вании. Речевые технологии помогают выработать правильное
произношение на иностранном языке, а прикладные программы
для обработки зрительных образов позволяют юным художникам
«набить руку» на лучших работах признанных мастеров.
Китайская академия наук разработала специальную тех¬
нологию, которая на любой набросок или эскиз накладывает
полупрозрачный слой шедевра. И художник воочию видит, как
мастера делали мазок, под каким углом держали кисть. Компью¬
тер в этом случае становится терпеливым наставником, который
знает все секреты творчества старых мастеров.
Технологии позволяют создавать объекты, которые во многих
случаях не отличаются от творений человека. Хотим мы этого
или нет, но разрыв между ИИ и человеком сокращается. У на¬
стоящих творцов еще сохраняется вера в подлинное искусство,
поскольку именно человек настраивает модель, подбирает
обучающие примеры и использует технологии для творчества.

Глава 9. О чем предупреждал Джонатан Свифт?
Надежды на то, что машины могут быть художниками, пока
слишком фантастичны. Генерация идей — это та главная функ¬
ция, которую искусственный интеллект не сможет отобрать у
творца.
Мы сделали правильные выводы из высказывания англий¬
ского писателя...

Все, что мы знаем, мы знаем
благодаря мечтам мечтателей,
фантазеров и ученых-поэтов.
Владимир Вернадский

ГЛАВА 10
ЧУДА ТВОРЦЫ ИЗ САРОВА
Искусственный интеллект и технологии Big Data. Физики и ма¬
тематики из «ядерного сердца» России. Перспектива развития и
подводные камни. Школа, где не ставят оценки.
Бывают в жизни неожиданные удачи. В былые времена такие
события нередко называли чудом. А скептики объясняли все
простым совпадением. Однако...
Работа над рукописью этой книги была почти завершена,
когда мне поступило приглашение принять участие в работе
I Всероссийской школы Национального центра физики и ма¬
тематики (НЦФМ) по искусственному интеллекту и большим
данным. Короткая командировка предполагала поездку в Саров,
легендарное место прославления Серафима Саровского. А зна¬
ющим историю развития атомной отрасли хорошо известно,
что именно здесь не только выковали ядерный щит Родины,
но и создали рабочие места для мирного атома. Здесь родились
первые атомные бомбы, здесь появилось сердце советского атом¬
ного подводного флота, здесь же возник проект первой в мире
атомной электростанции, построенной в Обнинске. Станция
до сих пор в строю и дает электричество Калужской области.
Это свидетельство высочайшего качества фундаментальных
исследований советских и российских ученых, инженеров-
конструкторов, технологов, которые вывели атомную отрасль
на первое место в мире!
И вот теперь в атомограде проводилась школа по искус¬
ственному интеллекту, собравшая более сотни студентов и моло¬
дых ученых со всей страны. В качестве докладчиков выступали
известные академики, руководители многих научных инсти¬
тутов — как Российской академии наук, так и ведущих техни¬
ческих вузов.

Глава 10. Чуда творцы из Сарова 129
НЦФМ
Адресом пятидневной школы стал технопарк «Саров», в кото¬
ром базируется филиал МГУ имени М.В. Ломоносова. Поддерж¬
ку оказали госкорпорация «Росатом» и Институт теоретической
и математической физики Российского федерального ядерного
центра — Всероссийского научно-исследовательского института
экспериментальной физики (РФЯЦ-ВНИИЭФ).
Открывая работу школы, научный руководитель Националь¬
ного центра физики и математики академик РАН Александр
Михайлович Сергеев отметил, что хотя НЦФМ достаточно
молодая организация, но темп научных исследований, прово¬
димых в нем, в том числе в области искусственного интеллекта и
больших данных, позволяет сделать вывод о быстром выходе на
передовые позиции в мире. Эта амбициозная задача поставлена
самой жизнью, поскольку развитие ИИ является сегодня обще¬
мировым трендом. Обработка больших данных нейронными
сетями приобретает громадное значение в получении новых зна¬
ний и использовании их в самых разных отраслях. Человечество
правильно угадало это направление. Ведь и техническое зрение,
и искусственный интеллект, и нейросети, способные решать
даже творческие задачи, стали прикладными инструментами в
достижении технического прогресса.

130 Глава 10. Чуда творцы из Сарова
Научный руководитель Национального центра физики и математики
академик РАН А.М. Сергеев (фото О. Сердечникова)
«Наше будущее, — считает Александр Сергеев, — в правиль¬
но выстроенном взаимодействии естественного интеллекта с
искусственным». Именно эту проблему обсуждали участники
I Всероссийской школы Национального центра физики и ма¬
тематики по искусственному интеллекту и большим данным.
Выбор площадки для дискуссии по научно-техническим
проблемам вполне очевиден. Национальный центр физики и
математики — уникальное заведение. В нем собраны лучшие
студенты и молодые ученые со всей страны. А их научными
руководителями являются академики и доктора наук. Образова¬
ние будущие специалисты ядерной отрасли получают штучное.
И этот подход себя полностью оправдывает. Ведь в Сарове на¬
ходится такое оборудование, которое позволяет проводить самые
сложные эксперименты. А вычислительная сеть, к которой даже
студенты получают доступ, является одной из самых мощных в
мире. Если перемножить знания с опытом наставников и энту¬
зиазмом студентов, то обязательно будет очередной прорыв в

Глава 10. Чуда творцы из Сарова 131
науке. То небольшое (или грандиозное!) чудо, которое готовится
в этих стенах.
Нынешний год оказался весьма результативным для всех, кто
занят развитием технологий ИИ и больших данных. Несколько
научных конференций, выставок были посвящены этой про¬
блематике. С молодыми учеными-ядерщиками встречались и
президент страны, и председатель правительства, и министры.
Такое внимание свидетельствует о том, что грандиозные планы
по выполнению проекта развития искусственного интеллекта
будут успешно завершены.
Ожидания не обманули. Несмотря на чисто научный формат
школы, все выступления были не только содержательными, но
и интересными для людей, далеких от теоретической физики и
математики. Связано это было скорее всего с тем обстоятель¬
ством, что проблематика искусственного интеллекта напрямую
затрагивает жизненные интересы буквально всего человечества.
Именно поэтому рабочая повестка была такой разнообразной.
Ведь задача — создать технологию, которая могла бы рабо¬
тать, как человеческий мозг, только во много раз производи¬
тельнее.
Директор Института теоретической и математической фи¬
зики РФЯЦ-ВНИИЭФ, соруководитель направления НЦФМ
«Искусственный интеллект и большие данные в технических,
промышленных, природных и социальных системах» Вячес¬
лав Соловьев заметил, что в настоящее время искусственный
интеллект является одним из основных трендов мирового
научно-технологического развития. Поэтому приоритетной
сферой научной программы Национального центра физики
и математики, создаваемого в Сарове по инициативе Росато¬
ма и в соответствии с поручением президента РФ, является
направление «Искусственный интеллект и большие данные
в технических, промышленных, природных и социальных
системах».
В рамках данного направления российские ученые ведут ис¬
следования по созданию нейроморфной элементной базы и ней¬
рогибридных вычислительных систем. В задачи специалистов
НЦФМ входят также исследование и разработка технологий ИИ
для систем здоровьесбережения и профилактической медицины,

132 Глава 10. Чуда творцы из Сарова
предиктивного моделирования жизненного цикла сложных тех¬
нических систем и производственных процессов, бесконтактной
оценки физиологического и психоэмоционального состояний
операторов критической инфраструктуры.
Любопытно, что, когда во время пленарного заседания
аудитории был задан вопрос: «Сможет ли искусственный ин¬
теллект сравняться с человеческим?», мнения «за» и «против»
разделились примерно поровну. Но это не значит, что песси¬
мисты не верят в технический прогресс, просто сама природа
служит надежным ограничителем своего высшего творения
перед техногенными угрозами и вызовами. Как бы ни были
совершенны нейросети, у них никогда не будет того свойства,
которое приобрел мозг. А именно своеобразной «души», «раз¬
ума», как некогда различали наши предки. Они четко разделяли
ум и разум — знания и некие озарения, творческую интуицию,
которые и помогают в основе своей создавать новые знания и
делать открытия.
Тысячам людей на голову падали разные предметы, и не
всегда это были спелые яблоки, но только Ньютон из рядового
казуса смог вывести закон всемирного тяготения!
Вместе с тем природа дает удивительные подсказки ученым.
Академик РАН Игорь Каляев, которого мы уже цитировали в
этой книге, рассказал о создании так называемых мемристоров,
использование которых позволяет в потенциале создавать прин¬
ципиально новые «мозгоподобные» вычислительные структуры,
которые наилучшим образом могут реализовывать принципы
машинного обучения.
«Хотя мемристор — это пассивный элемент, такой же как
резистор, но в отличие от обычного резистора, сопротивление
которого постоянно, сопротивление мемристора может из¬
меняться в зависимости от прошедшего через него электри¬
ческого заряда (интеграла тока по времени). Т.е. мемристор
запоминает количество прошедшего через него заряда и со¬
храняет эту информацию в виде своего сопротивления. Такие
свойства мемристора открывают возможности создания на его
основе, например, ячеек долговременной памяти, т.е. флеш-
памяти, причем мемристорные элементы памяти могут быть

Глава 10. Чуда творцы из Сарова 133
более компактными и быстрыми, чем элементы современной
флеш-памяти. Но еще большие перспективы данное свойство
мемристора открывает с точки зрения возможностей реализации
на его основе искусственных нейронных сетей. Действительно,
поведение мемристора очень напоминает поведение синапса
биологического нейрона: чем интенсивнее входной сигнал,
тем выше пропускная способность синапса. Именно поэтому
в рамках подпрограммы 9 НЦФМ исследуются возможности
создания мозгоподобных вычислительных устройств на основе
мемристорной элементной базы», — рассказывает Игорь Каляев.
Мемристоры — это путь к созданию нейрогибридных систем,
которые объединят в едином контуре естественные и искус¬
ственные нейронные сети. А это открывает дорогу к нейропро¬
тезированию: если у человека, к примеру, атрофированы ноги
в связи с повреждением спинного мозга, можно будет создать
нейрочип, который заменит часть спинного мозга. Элементная
база на основе мемристоров может работать в жестких условиях
физического воздействия, и для ее создания не нужны произ¬
водственные линейки с очень высокими технологическими
нормами — достаточно 10 нм и выше, что позволяет сконцен¬
трировать производство на территории России.
Пообщаться с Игорем Анатольевичем было очень важно
для понимания не только некоторых аспектов использова¬
ния искусственного интеллекта, но и в целом проблем робо¬
тотехники, которая становится все более интеллектуальной.
Источник — URL: https://mipt.ru/newsblog/lenta/v_mfti_sozdali_sinaps
dlya_neyromorfnogo_kompyutera

134 Глава 10. Чуда творцы из Сарова
Каляев разработал методы планирования и управления целе¬
направленным поведением интеллектуальных роботов, пред¬
назначавшихся для автономного функционирования в заранее
неизвестных реальных средах, на базе однородных нейропо¬
добных структур. Им созданы теоретические и практические
основы построения нейроподобных структур данного класса.
Полученные результаты нашли применение при создании ряда
систем управления прототипов роботов-планетоходов, предна¬
значенных для исследования других планет, в частности Марса,
а также систем управления роботизированных комплексов
оборонного и промышленного назначения, мобильных робото¬
технических комплексов сухопутных войск, а также роботизиро¬
ванных складских и транспортно-технологических комплексов.
«Еще в 80-е годы прошлого века в рамках советской космиче¬
ской программы, — рассказал Игорь Анатольевич, — я занимался
созданием системы управления робота-планетохода, предназна¬
ченного для исследования поверхности Марса. Поскольку время
обмена данными с Марсом могло достигать десятка минут, то
управлять таким роботом с Земли не представлялось возможным.
Поэтому перед нами была поставлена задача создания интел¬
лектуальной системы управления марсохода (хотя в те времена
слово «интеллектуальная» никто не знал и не употреблял), кото¬
рая обеспечивала бы возможность его автономного движения к
цели по заранее неизвестной пересеченной местности. И такую
систему мы тогда создали, причем на основе однородной ней¬
роподобной структуры, реализующей, как сейчас принято гово¬
рить, природоподобные технологии. А испытания прототипов
интеллектуальных марсоходов мы проводили на специальных
камчатских полигонах на склонах вулкана Толбачик, которые
очень напоминают лунный или марсианский пейзаж».
Одной из основных причин высокой смертности населе¬
ния в России является большая распространенность факторов
риска заболеваний, большинство которых связано с образом
жизни людей. Человеку свойственна беспечность. К зубному
врачу мы идем тогда, когда боль становится невыносимой, на
ногах переносим простудные заболевания. А для сохранения
здоровья всего населения чрезвычайную роль играет медицина
профилактическая.

Глава 10. Чуда творцы из Сарова 135
Академик РАН И.А. Каляев (слева) c автором данной книги
Это обстоятельство определяет актуальность и значимость
использования ИИ для профилактической медицины, чему по¬
священ еще один проект, развиваемый учеными НЦФМ. В рамках
этого проекта планируется создание такой системы профилак¬
тической медицины, которая будет формировать персональные
рекомендации, направленные на комплексную стратегию по сни¬
жению рисков развития хронических заболеваний у человека на
основе цифрового профиля его здоровья и выявленных персональ¬
ных факторов риска. Безусловно, такая система профилактической
медицины особенно важна для работников атомной отрасли,
которые зачастую работают в экстремальных производственных
условиях и подвержены большой психологической нагрузке.
Вообще-то использование искусственного интеллекта в здра¬
воохранении, на что были большие надежды всего человечества,
уже не представляется таким очевидным подспорьем. И связано
это с тем, что искусственный интеллект не может нести ни мо¬
ральную, ни уголовную, ни административную ответственность
за постановку диагноза и назначение методики лечения. Он мо¬
жет лишь дать рекомендацию лечащему врачу, с молниеносной

136 Глава 10. Чуда творцы из Сарова
быстротой проанализировав десятки исследований или сотни
снимков, сделанных томографом. А уже врач-специалист на
основании этих данных обязан принять решение.
Но и другие результаты применения технологий ИИ, раз¬
виваемых учеными НЦФМ, вполне очевидны. Это касается, к
примеру, прогнозирования жизненного цикла технических и
промышленных систем для минимизации ошибок. Люди всегда
пытались заглянуть в будущее и каким-то образом приготовиться
к тому, что их там ждет. Именно поэтому в Средние века широкое
распространение получила астрология. Конечно, астрология —
это псевдонаука, но современные технологии ИИ позволяют нам
в той или иной мере заглядывать в будущее. Действительно, если
мы будем собирать большие данные о функционировании неко¬
торой технической или промышленной системы на протяжении
всего ее жизненного цикла, то на основе этих данных с помощью
технологий ИИ можно выявить некоторые закономерности в ее
развитии и предсказать ее будущее состояние и поведение. По¬
этому в последние годы наиболее востребованным подходом к
управлению сложными объектами и технологическими процес¬
сами стала технология управления на основе прогнозирующей
модели объекта и предиктивного, т.е. предсказательно, моде¬
лирования его поведения. С помощью такого предиктивного
моделирования возможно, например, оценивать остаточный
ресурс сложных технических систем, т.е. определять момент,
когда они могут выйти из строя, и, соответственно, принимать
превентивные меры для минимизации потенциального ущерба.
Безусловно, это очень важно для систем ответственного приме¬
нения, в частности объектов атомной энергетики, выход которых
из строя может приводить к катастрофическим последствиям.
Но такие же технологии предсказательного моделирования
можно использовать для прогнозирования не только работы
технических или промышленных систем, но и состояния при¬
родных и даже социальных структур, например различного рода
природных или социальных катастроф.
Современный Интернет вещей, техническое зрение и много¬
численные анализаторы в непрерывном режиме, буквально
24x7x365, следят за состоянием узлов и механизмов, степенью
износа трущихся деталей и выдают анамнез и прогноз для выпол¬

Глава 10. Чуда творцы из Сарова 137
нения профилактических работ или ремонта оборудования. Это
особенно важно для агрессивной или опасной для человека среды.
ИИ также помогает строить сетки для производственных рас¬
четов, в которых используются уже миллиарды счетных ячеек.
Без специальных технологий построения этих сеток работать
становится все сложнее.
Особая роль ИИ отводится в теории управления в самом
широком смысле. Об этом сделал доклад директор Института
проблем управления им. В.А. Трапезникова РАН, профессор,
доктор технических наук, академик РАН Дмитрий Александрович
Новиков. Теория управления, зародившись около ста пятидеся¬
ти лет назад, до последнего времени носила «модельный» вид.
Сначала управление было чисто механическим, затем стали при¬
менять электрические приводы и промышленную электронику.
Сегодня все чаще используют «цифровые двойники», причем не
только на производстве, но и в математическом моделировании.
Реальное производство отражается в виртуальном, где строятся
модели и проверяются элементы управления. И уже потом новые
приемы или технологии переносятся в реальную среду. Благодаря
применению искусственного интеллекта разработка новых алго¬
ритмов происходит очень быстро. Компьютерное моделирование
позволяет просчитывать все возможные варианты, устраняя воз¬
никновение ошибок.
На примере технологии «deep fake» мы увидели результатив¬
ность «состязания» генератора и деструктора, приводящего к
приемлемому варианту. От технических систем ИИ способен
перейти и к управлению биологическими системами, хотя это
очень сложная и ответственная среда. В последнее время очень
популярными стали нейронные сети. Их возможности многими
превозносятся, и тем самым делается вывод, что искусственные
нейронные сети — это идеальные аппроксиматоры, которым
можно доверить любую управленческую функцию.
«Попытки реализации нейронных сетей или мощного искус¬
ственного интеллекта на базе современных кремниевых компью¬
терных технологий, — говорит Игорь Каляев, — это, с моей точки
зрения, путь в никуда. Мы хотим создать аналог человеческого
мозга, но при этом используем технологии, которые все дальше
и дальше уводят нас от этого. В качестве примера достаточно

138 Глава 10. Чуда творцы из Сарова
посмотреть на работу ChatGPT. Он физически «живет» на су¬
перкомпьютере Azure А!, который имеет производительность
30 петафлопс, занимает огромный машинный зал и потребляет
около 10 МВт электроэнергии. Только для его обучения было
потрачено столько электроэнергии, сколько хватило бы для
освещения всего Нью-Йорка в течение трех недель. А человече¬
ский мозг занимает объем около 1300 кубических сантиметров
и потребляет всего лишь 20 Вт энергии для своей работы. Как
говорится, почувствуйте разницу».
Если, например, попытаться создать вычислительную систе¬
му, которая могла бы моделировать активность всех нейронов
человеческого мозга (а это примерно 80 миллиардов нейронов),
то при современном технологическом процессе в 7 нанометров
такой компьютер занял бы площадь здания триста на триста
метров и высотою в восемьдесят! Сравните это с объемом черепа
человека, и вы поймете, как еще далек искусственный интеллект
от природного. Для питания такого суперкомпьютера нужна
энергия, которую вырабатывает, скажем, Саяно-Шушенская
ГЭС — одна из самых мощных в мире, тогда как мозг человека
расходует на вычисления всего лишь 20 Вт.
Именно поэтому ученые НЦФМ ищут альтернативные пути
создания вычислительных систем, которые могут эффективно
использоваться для обучения ИИ. И одним из таких путей яв¬
ляется создание фотонной вычислительной машины.
Академик Каляев считает, что фотонные вычислители по¬
зволят существенно сократить время перемножения вектора
на матрицу, а именно этот тип операций составляет львиную
долю (до 90%) процессов машинного обучения. Исследования
в области создания фотонных ускорителей сегодня активно
проводятся во всем мире. Однако пока что они находятся в
основном на стадии научных исследований, что открывает для
нас хорошие возможности: мы можем не только не отстать от
технического прогресса в этой очень перспективной области,
но и занять лидирующие позиции. Здесь важно отметить, что
для создания таких фотонных ускорителей достаточны произ¬
водственные линейки с невысокими технологическими нормами
(120 нм и даже более), что открывает возможность локализации
их производства непосредственно в России.

Глава 10. Чуда творцы из Сарова 139
С другой стороны, необходимо отметить, что развитие
суперкомпьютеров, определявшееся эмпирическим законом
Мура с начала компьютерной эры, в настоящее время начало
замедляться, что уже не позволяет использовать классические
пути повышения быстродействия вычислительных машин.
И здесь нам могут помочь технологии ИИ, с помощью которых
можно осуществлять оптимальное распределение ресурсов
суперкомпьютера по поступающим задачам, прогнозировать
эффективность решения прикладных задач на тех или иных
ресурсах суперкомпьютера, производить подстройку параметров
вычислительного задания под архитектуру суперкомпьютера и
так далее, что в свою очередь позволяет существенно повысить
общую эффективность суперкомпьютерных вычислений. По¬
этому сегодня технологии ИИ и суперкомпьютеров неразрывно
связаны друг с другом.
Эта книга была бы неполной, если бы мы прошли мимо тако¬
го важного факта: одним из лауреатов премии президента РФ в
области науки и инноваций для молодых ученых за 2023 год стала
доктор физико-математических наук, профессор Сусанна Горд-
леева. Ее работа в области искусственного интеллекта явилась
очередным прорывным шагом в создании нейроморфных ком¬
пьютеров. Сусанна Юрьевна предложила добавить к нейронам
астроциты — особые клетки головного мозга, которые участвуют
в получении и обработке информации. Гордлеева работает про¬
фессором Нижегородского государственного университета име¬
ни Н.И. Лобачевского. Многочисленные эксперименты, кото¬
рые она проводила в том числе и на базе Национального центра
физики и математики в Сарове, показали, что нейроморфные
разработки являются наиболее быстродействующими в мире.
Когда-то созданная сеть компьютеров породила новое явле¬
ние — Интернет, позволивший объединить коллективный разум,
научные данные и практические внедрения всего человечества и
сделать их достоянием каждого. Научные сообщения, сделанные
в рамках I Всероссийской школы НЦФМ по искусственному
интеллекту и большим данным, лягут в основу работы многих
исследовательских центров нашей страны, помогут умножить
усилия по разработке технологии будущего.

Любовь, решительность, сомнение,
вера, неверие, твердость,
нетвердость, стыд, размышление,
страх — все это разум.
«Упанишады»

ЗАКЛЮЧЕНИЕ
Роль искусственного интеллекта в современном обществе. Выра¬
ботка научно-техническихрешений в государственном масштабе.
«Тайный советник вождя»: как машинный разум помогает управ¬
лять государством.
Эта книга имеет подзаголовок «Феномен двуликого Януса но¬
вейшей технологии». Такое определение ИИ имеет под собою
все основания. Исторически сложилось так, что многие изобре¬
тения, созданные человечеством на протяжении всей истории,
принесли наряду с пользой и угрозу для существования людей.
И предугадать, куда повернет та или иная разработка, бывает
очень трудно.
В 1921 году поэт Андрей Белый написал удивительные строки:
«Мир — рвался в опытах Кюри
Атомной, лопнувшею бомбой
На электронные струи
Невоплощенной гекатомбой».
До радиоактивного облака над японскими городами Хиро¬
симой и Нагасаки, унесшего сотни тысяч жизней ни в чем не
повинных людей, было еще четверть века, а разрушительный
феномен деления ядер урана уже вставал неумолимым и злове¬
щим призраком...
Но атомная энергия может не только сеять смерть и разру¬
шения, но и работать на созидание. В Советском Союзе в Об¬
нинске была построена первая в мире атомная электростанция,
работающая до сих пор! Ядерные энергетические установки дают
электричество подводным и надводным кораблям. По всему
миру строятся АЭС, производящие чистую и дешевую энергию.
А Росатом разработал мини-АЭС, которые можно установить
либо на плавсредства для эксплуатации в прибрежной зоне,
либо на колесную технику для работы в пустынной местности.
Искусственный интеллект, появившийся как средство,
расширяющее творческие возможности человека, показал и

142 Заключение
свою темную сторону, о чем упомянуто в этой книге. И, как
не раз подчеркивалось, именно от человека — изобретателя,
разработчика, конструктора — в основном зависит, какие
ограничительные механизмы будут действовать в отношении
инновационной технологии. Практика всегда является крите¬
рием истины. Об этом знали в седой древности, очень хочется,
чтобы исторические уроки были выучены назубок и нынешним
поколением.
И первые шаги в этом направлении, похоже, сделаны. По¬
явилось сообщение о том, что Генеральный секретарь ООН
Антониу Гуттериш поддержал идею ряда стран о создании все¬
мирной организации для регулирования сферы искусственного
интеллекта. По мнению Генсека, для этих целей площадка ООН
является оптимальной.
Инициаторами такой международной комиссии выступили
Австралия, Бразилия, Великобритания, Германия, Евросоюз,
Израиль, Индия, Индонезия, Ирландия, Испания, Италия,
Канада, Кения, Китай, Нигерия, Нидерланды, ОАЭ, Республика
Корея, Руанда, Саудовская Аравия, Сингапур, США, Турция,
Украина, Филиппины, Франция, Чили, Швейцария и Япония.
Такой орган мог бы функционировать по аналогии с Между¬
народным агентством по атомной энергии (МАГАТЭ), Между¬
народной организацией гражданской авиации (ICAO) или
Международной группой экспертов по изменению климата
(МГЭИК). Основная цель этого органа сводилась бы к поддерж¬
ке стран в получении максимальной пользы от ИИ, устранении
существующих и будущих угроз, а также установлении и реа¬
лизации выработанных на международном уровне механизмов
мониторинга и контроля.
Однако ряд и российских, и зарубежных экспертов высказы¬
вают мнение, что из этой затеи может ничего не получиться. Дело
в том, что область высоких технологий является конкурентной
средой: разработки ИИ приносят колоссальные прибыли, и
здесь в выигрыше будут только лидеры, а любое ограничение
приведет к потере огромных средств. Ведущий эксперт Центра
компетенций Национальной технологической инициативы
«Искусственный интеллект» на базе МФТИ Александр Родин
заявил, что многие игроки будут «продавливать» свой продукт,

Заключение 143
используя международные санкции, торговые воины и парал¬
лельный импорт.
Его поддержала руководитель сервиса «Сборка и сопровожде¬
ние продуктов на основе данных» Университета Национальной
технологической инициативы 2035 Марина Чурикова. Она со¬
гласилась с тем, что обеспечение жесткого контроля разработки
технологий ИИ в большинстве стран остается невозможным.
Однако вопросы безопасности применения таких систем для
человека требуют обсуждения и выработки мер регулирования,
считает она.
«Существует угроза создания дипфейков с использованием
личных фото человека или же, например, способов мошенни¬
чества с использованием записи голоса пользователя в банков¬
ской сфере. В России есть множество очень сильных экспертов
(разработчиков, исследователей, дата-сайентистов), которые
работают над различными алгоритмами и развивают сферу ИИ.
Поэтому нам тоже нужно включаться в вопросы регулирования
этой сферы, так как опыта в ней у нас много», — заключила
Чурикова.
Древние греки (куда же без них современному человеку!)
считали атом мельчайшей и неделимой частицей, множество
которых образует Вселенную. Однако уже в двадцатом веке
физики не только доказали, что атомы можно делить, но и на¬
учились извлекать из них энергию. Сегодняшние представления
об искусственном интеллекте будут дополняться в результате
работы над развитием этой многообещающей технологии. Как
знать, может именно вам, читающим эти строки, предстоит
совершить очередной прорыв в науке и технике. И ваши имена
будут перечислены в очередной книге, которую (а вдруг!) на¬
пишет нейросеть.
Книги о робототехнике и искусственном интеллекте адре¬
суются тем, кто видит свою миссию в создании технологий
завтрашнего дня, кто увлечен расширением возможностей че¬
ловеческого разума. Надеюсь, что именно так и будет!

Производство книг на заказ
Издательство «ТЕХНОСФЕРА»
125319,Москва, а/я91
тел.: (495) 234-01-10
e-mail: knigi@technosphera.ru
Реклама в книгах:
• модульная
• статьи
Подробная информация о книгах на сайте
http://www.technosphera.ru
Прасол Александр Алексеевич
Вы сказали «искусственный интеллект»?
Феномен двуликого Януса новейшей технологии
Подписано в печать 26.08.2024.
Компьютерная верстка - ИП Автушенко Р.В.
Дизайн книжных серий - С.Ю. Биричев, А.В. Кочеткова
Дизайн - Н.И. Семячкина
Выпускающий редактор - О.Н. Кулешова
Ответственный за выпуск - С.А. Орлов
Редактор-продюсер - С.В. Новиков
Формат 84^108/32. Печать офсетная.
Гарнитура Ньютон.
Печ.л. 4,5. Тираж 700 экз. Зак. № Т-687
Бумага офсет №1, плотность 65 г/м2.
Издательство «ТЕХНОСФЕРА»
Москва, ул. Краснопролетарская, д.16, стр.2
Отпечатано в полном соответствии с качеством
предоставленного электронного оригинал-макета
в типографии ООО «Мастер-Студия»
432071, г. Ульяновск, ул. Урицкого, д. 94, корп. 2