/7 Но очм*С-^

АКАДЕМИЯ НАУК
СОЮЗА СОВЕТСКИХ СОЦИАЛИСТИЧЕСКИХ РЕСПУБЛИК
ТРУДЫ
ордена Ленина
МАТЕМАТИЧЕСКОГО ИНСТИТУТА
имени В. А. СТЕКЛОВА
СХХХШ
МАТЕМАТИЧЕСКАЯ ЛОГИКА,
ТЕОРИЯ АЛГОРИТМОВ
И ТЕОРИЯ МНОЖЕСТВ
Посвящается академику
Петру Сергеевичу Новикову
к его семидесятилетию
ИЗДАТЕЛЬСТВО «НАУКА»
МОСКВА 1973

УДК 51.01; 517.2; 519 (082)
Математическая логика, теория алгоритмов и теория множеств. Сборник
работ под редакцией С. И. А д я н а. Труды ордена Ленина
Математического института им. В. А. Стеклова. Том 133. Изд-во «Наука», 1973.
Сборник посвящается академику П. С. Новикову к его
семидесятилетию. Он составлен из 23 статей.
Сборник открывается тремя обзорными статьями о научной и
педагогической деятельности П. С. Новикова, о его работах в дескриптивной
теории множеств и по алгоритмическим вопросам алгебры. В этих статьях
изложены фундаментальные результаты, полученные П. С. Новиковым
в указанных областях, и показана его выдающаяся роль в подготовке
научных кадров.
Остальные статьи сборника представляют собой исследования
учеников П. С. Новикова в различных областях математической логики,,
теории множеств, теории алгоритмов и ее приложений. Исключением
в этом отношении является статья ученика П. С. Новикова В. Я. Арсе-
нина, в которой рассматриваются приближенные решения интегральных
уравнений.
Сборник представляет интерес для научных работников, аспирантов
и студентов, специализирующихся в указанных областях математики.
Иод редакцией
доктора физико-математических наук
С. И. АДЯНА
Ответственный редактор
академик
С. М. НИКОЛЬСКИЙ
0223—0416
М 042(02)-73 383~73
© Издательство «Наука», 1973 г.

28 августа 1971 г. исполнилось 70 лет одному из крупнейших советских
математиков академику Петру Сергеевичу Новикову.
Свою научную деятельность Петр Сергеевич начал в двадцатые годы
в области дескриптивной теории множеств. Уже в эту пору проявилось
исключительное дарование Петра Сергеевича. В 1927 г. он полностью
исследовал природу неявных Б-функций. Созданный им новый сильный
метод, получивший название принципа сравнения индексов, нашел
применение при решении многих важных проблем дескриптивной теории
множеств. Петр Сергеевич с помощью этого метода получил совершенно*
неожиданный результат, доказав, что во втором классе проективных
множеств имеют место законы отделимости, обратные по отношению к
законам отделимости в первом проективном классе.
Вершиной теоретико-множественных исследований Петра Сергеевича
явилось доказательство непротиворечивости в аксиоматической теории
множеств утверждений о существовании С-4-множества без совершенного
ядра и существовании неизмеримых по Лебегу проективных множеств
типа А2.
В конце тридцатых годов в поисках новых средств для решения
некоторых проблем дескриптивной теории множеств Петр Сергеевич начинает
заниматься проблематикой математической логики. В сороковых годах
он создает метод доказательства непротиворечивости формальных системг
основанный на понятии регулярной формулы.
Начиная с пятидесятых годов Петр Сергеевич занимается
исследованием алгоритмических проблем теории групп. Его результат о
неразрешимости проблемы тождества слов в настоящее время уже стал
классическим.
Исключительная роль Петра Сергеевича Новикова в развитии теории
множеств, математической логики и теории алгоритмов определяется не
только его личными научными достижениями, но также его многолетней
разносторонней педагогической деятельностью, курсами лекций и
научными семинарами, в которых он подготовил многочисленных своих
учеников.
Петр Сергеевич является руководителем отдела математической
логики Математического института им. В. А. Стеклова АН СССР со времени
его создания. Более 25 лет он заведовал кафедрой математического
анализа МГПИ им. В. И. Ленина.
Настоящий сборник посвящается Петру Сергеевичу Новикову к его
семидесятилетию. Сборник составлен из оригинальных и обзорных
статей его учеников.

Н. Д. ГИЛЕНКО, Е. А. ЩЕГОЛЬКОВ
О НАУЧНОЙ И ЦЕДАГОГИЧЕСКОЙ ДЕЯТЕЛЬНОСТИ
ПЕТРА СЕРГЕЕВИЧА НОВИКОВА
Петр Сергеевич Новиков родился 28 августа 1901 г. в Москве»
В 1919 г. он окончил среднюю школу и поступил на
физико-математический факультет Московского университета. В том же году он был призван
в Красную Армию. В университет Петр Сергеевич вернулся в 1922 г»
и окончил его в 1925 г.
Студенческие годы Петра Сергеевича пришлись на время большой
творческой активности Н. Н. Лузина и его математической школы.
Н. Н. Лузина в это время окружал коллектив талантливых молодых
математиков: П. С. Александров, Н. К. Бари, В. И. Гливенко, Л. В.
Келдыш, А. Н. Колмогоров, М. А. Лаврентьев, Л. А. Люстерник, Д. Е.
Меньшов, А. Я. Хинчин, П. С. Урысон и др. Петр Сергеевич стал участвовать
в семинарах Н. Н. Лузина и пробовать свои силы в решении задачг
которые щедро ставил перед своими учениками Н. Н. Лузин. Многие из
этих задач были актуальными проблемами теории множеств и теории
функций того времени, исследование которых было начато в трудах
французских математиков. Уже в студенческие годы Петр Сергеевич получил
первый научный результат, относящийся к исследованию неявных Б-функ-
ций. Его научная работа продолжалась затем в аспирантуре с 1925 па
1929 г. под руководством Н. Н. Лузина. В 1927 г. Петр Сергеевич
получил полное решение проблемы взаимоотношения явных и неявных Б-функ-
ций. Эти результаты составили содержание его первой печатной
публикации [1].
В 1934 г. Н. Н. Лузин пригласил П. С. Новикова на работу в
Математический институт им. В. А. Стеклова АН СССР, где организовался отдел
теории функций действительного переменного. В этот период Петр
Сергеевич выполнил работу [2] «Об отделимости проективных множеств
второго класса», которая явилась выдающимся открытием того времени.
В докладе на майской сессии АН СССР в 1935 г. «О некоторых новых
результатах дескриптивной теории функций» [3] Н. Н. Лузин так
охарактеризовал эту работу Петра Сергеевича:
«... Проблема отделимости проективных множеств при
современном состоянии науки казалась совершенно безнадежной. Проблема эта
более 10 лет ждала своего решения и только в работах П. С. Новикова
получила точное и совершенно неожиданное решение... Эта отделимость
лежала так глубоко, что для ее открытия необходимы были математиче-
5

ские инструменты очень большой силы, которых не было в руках других
исследователей: для более слабых средств теория эта недоступна».
П. С. Новикову в том же году была присуждена ученая степень доктора
физико-математических наук.
Научное творчество Петра Сергеевича оказало существенное влияние
на развитие дескриптивной теории множеств х. Ему принадлежат
фундаментальные результаты, глубокие и сильные методы исследований,
с помощью которых были решены проблемы, долгое время не
поддававшиеся усилиям многих математиков. Внимание Петра Сергеевича всегда
было направлено на исследование трудных и принципиальных проблем
теории множеств: природа континуума, актуальная бесконечность,
эффективные средства доказательств и другие. В развитие идей Петра
Сергеевича и под непосредственным его влиянием получены многочисленные
и интересные результаты в дескриптивной теории множеств его
учениками А. А. Ляпуновым, А. Д. Таймановым, 3. И. Козловой, Б. С. Содно-
мовым, А. В. Гладким и другими.
К началу 40-х годов творчество Петра Сергеевича переместилось в
область математической логики и теории алгоритмов. Возможно, что
причиной этому были логические трудности, с которыми встретились
проблемы дескриптивной теории множеств. Необходимы были другие подходы
к их разрешению. На это указывал в свое время и Н. Н. Лузин: «... здесь
мы имеем дело с так называемыми неразрешимыми предложениями,
природа которых может быть вскрыта лишь средствами математической
логики».
В ходе дальнейшего развития оснований математики, существенное
влияние на которое оказали работы К. Гёделя, эта точка зрения полностью
подтвердилась. Средствами математической логики была доказана
неразрешимость некоторых проблем теории множеств. Петр Сергеевич,
заинтересовавшийся работами К. Гёделя, получил ряд результатов в этом
направлении. Он доказал непротиворечивость в системе аксиом теории
множеств 2 следующих утверждений:
1) существует несчетное £М-множество без совершенного
подмножества;
2) существует проективное множество второго класса, неизмеримое
по Лебегу;
3) для всех классов проективных множеств, начиная с некоторого,
имеют место теоремы отделимости, такие же, как во втором классе.
О непротиворечивости первых двух утверждений ранее было объявлено
К. Гёделем, однако доказательства он не опубликовал. Оно было дано
в работе П. С. Новикова [8]. Доказательство непротиворечивости третьего
утверждения Петр Сергеевич доложил на семинаре по математической
логике в МГУ в 1950 г., в печати оно не опубликовано.
В работе [4] Петр Сергеевич обращается к исследованию вопроса о
непротиворечивости формально-аксиоматических исчислений весьма
широкого класса, включающих формализм Рассела с простой теорией типов,
1 О работах П. С. Новикова по дескриптивной теории множеств см. статью А. А.
Ляпунова в этом сборнике.
6

аксиомой бесконечности и аксиомой произвольного выбора. Используя
предложенный им общий метод, он, в частности, доказал
непротиворечивость арифметики с любыми рекурсивными определениями.
Как известно, в теории множеств и логических системах возможны
противоречия (парадоксы). Такой логической системой, например,
является расширенное исчисление предикатов Рассела без теории типов.
Исходя из указанной Д. А. Бочваром заведомо непротиворечивой части
Р0 этого исчисления, Петр Сергеевич в работе [5] расширяет ее путем
присоединения новых аксиом, характеризующих те или иные предикаты,
и указывает тип таких аксиом, которые можно присоединить к Р0 без
противоречия. В частности, показано, что присоединение аксиом
тождества и аксиом, определяющих целые числа, не ведет к противоречию.
В работах [6] и [7] Петр Сергеевич, используя введенный им метод
«регулярных формул», доказывает независимость аксиомы полной индукции
от остальных аксиом арифметики. Устанавливается и более сильный
результат: аксиома полной индукции независима в любой непротиворечивой
системе аксиом, содержащей аксиомы арифметики, и такой, что аксиомы,
которые не являются аксиомами арифметики, не содержат переменных
предикатов. Там же указывается алгоритм, позволяющий для любого
утверждения арифметики, не содержащего кванторов существования,
узнать, выводимо оно без аксиомы полной индукции или нет.
В начале 50-х годов предметом научных исследований Петра Сергеевича
стали алгоритмические вопросы алгебры х. Его внимание привлекла тогда
еще не решенная проблема тождества слов в теории групп. В этой
проблеме требовалось найти алгоритм, позволяющий для любых двух слов
группы, заданной конечным числом образующих и определяющих
соотношений, проверить, равны они в этой группе или нет.
Эта проблема ждала своего решения с 1912 г. Для некоторых частных
случаев групп требуемые алгоритмы были построены; естественно,
усилия математиков были направлены на поиски общего алгоритма.
В 1952 г. Петром Сергеевичем Новиковым получен наиболее
замечательный результат в этом направлении — неразрешимость проблемы
тождества для групп в общем случае.
Эта работа вызвала огромный интерес среди математиков всего мира.
Отрицательное решение проблемы для многих было неожиданным. За эту
работу [9] в 1957 г. Петр Сергеевич был удостоен Ленинской премии.
Разработанный Петром Сергеевичем метод решения проблемы
тождества слов в группах положил начало систематическому исследованию
других алгоритмических проблем алгебры как у нас в стране, так и за
рубежом. Дальнейшие важные результаты в этом направлении получены
учеником Петра Сергеевича С. И. Адяном.
Продолжая исследования в теории групп, Петр Сергеевич
обращается к одной из труднейших проблем алгебры, известной проблеме Берн-
сайда о периодических группах, поставленной еще в 1902 г. До 1959 г.
были известны лишь некоторые частные случаи положительного решения
этой проблемы. В 1959 г. Петр Сергеевич [10] опубликовал предваритель-
1 О работах П. С. Новикова по алгоритмическим вопросам алгебры см. статью
С. И. Адяна в этом сборнике.
7

ное сообщение об отрицательном решении проблемы Бернсайда в общем
случае. Однако осуществление идеи доказательства этого результата
встретилось с серьезными трудностями и Петр Сергеевич привлек к этой
работе своего ученика СИ. Адяна. Совместное полное решение проблемы
Бернсайда опубликовано в 1968 г. [11]. Это явилось крупным успехом
в математике.
Параллельно научной работе Петр Сергеевич всегда вел большую
и разностороннюю педагогическую работу. Еще в студенческие годы он
преподавал математику в ФЗУ при заводе имени Ильича. После
окончания аспирантуры в 1929—1934 гг. работал на кафедре высшей математики
в Московском химико-технологическом институте имени Д. И.
Менделеева. В 1935—1937 гг. был профессором кафедры математики на
химическом факультете МГУ, а в 1938 г. был приглашен на кафедру
математического анализа в Московский педагогический институт имени К. Либк-
нехта.
На физико-математическом факультете этого института в это время
преподавали многие известные математики: В. И. Гливенко, П. К. Рашев-
ский, Н. Б. Веденисов и др.; читали отдельные курсы и руководили
аспирантами П. С. Александров, А. Я. Хинчин, И. Г. Петровский. Несмотря
на это, приход Петра Сергеевича ознаменовался тем, что около него после
лекций по теории функций действительного переменного образовался
кружок способной молодежи. Трое из этого кружка, талантливые
математики В. Янков, С. Вихман, К. Лукьянов, к большому сожалению,
погибли на фронте во время Великой Отечественной войны.
С осени 1944 г. Петр Сергеевич становится заведующим кафедрой
математического анализа Московского государственного педагогического
института имени В. И. Ленина.
Здесь на физико-математическом факультете он читает курсы
лекций по математическому анализу, уравнениям математической физики,
теории функций, математической логике и теории алгоритмов.
Одновременно читает специальные курсы в Московском университете по
дескриптивной теории множеств, основаниям математики, рекурсивным функциям
и др. В течение многих лет он руководил научными семинарами по
математической логике и теории алгоритмов в МГУ и МГПИ имени
B. И. Ленина.
С 1944 по 1960 г. Петр Сергеевич является одним из руководителей
семинара по математической логике на механико-математическом
факультете МГУ. Вместе с ним руководителями семинара были И. И. Жегалкин,
C. А. Яновская, а затем А. А. Марков. Семинар объединял всех, кто
занимался математической логикой в Москве; его часто посещали логики-
философы; с докладами выступали математики из других городов, а также
зарубежные гости из Венгрии, ГДР, Польши и др.
С 1957 г. Петр Сергеевич руководил семинаром по алгоритмическим
вопросам алгебры в Математическом институте имени В. А. Стеклова,
а с 1961 г. — в МГПИ имени В. И. Ленина семинаром по математической
логике и ее приложениям.
Лекции и семинары Петра Сергеевича всегда пользуются
исключительным вниманием студентов и аспирантов. Особенность его лекций —
8

глубокая содержательность при внешней простоте, ясность постановки
основных вопросов, сжатость изложения. Довольно метко и образно
сказал о лекциях Петра Сергеевича один из его учеников, сам читающий
лекции в ВУЗе: «Пробовал я читать лекции „по Новикову", но обидно, не
получается; как-то исчезают краски, появляется сухость, ослабевает
интерес у студентов». Научные семинары Петра Сергеевича отличаются
актуальностью тематики и творческой направленностью. Распространенное
среди части студентов мнение об его особой строгости на экзаменах —
плод недоразумений: он не ищет с пристрастием «чего студент не знает»,
а при помощи четко поставленных вопросов следит за тем, чтобы студент
в первую очередь показал достаточный уровень владения основными
понятиями и фактами. Ни при каких обстоятельствах он не сделает резкого
или обидного замечания, если за ответом виден труд. Со студентами,
увлеченными математикой, Петр Сергеевич беседует с особым вниманием
и нередко присматривается к таким студентам, чтобы привлечь их к
творческой работе.
Петр Сергеевич очень внимателен к молодежи — щедро делится с ней
своими идеями, всегда готов выслушать и помочь начинающим
математикам. Его неизменные внимательность и доброжелательное отношение
к студентам являются примером для преподавателей математического
факультета. У Петра Сергеевича много учеников, ныне работающих в
научных институтах и вузах нашей страны. Среди них С. И. Адян, В. Я.
Арсении, Н. В. Белякин, А. Л. Брудно, А. В. Гладкий, А. А. Зыков, Ф. А.
Кабаков, 3. И. Козлова, Я. Л. Крейнин, А. А. Ляпунов, К. А. Михайлова,
А. А. Мучник, Я. С. Сметанич, Б. С. Содномов, А. Д. Тайманов,
Б. А. Трахтенброт, Б. Я. Фалевич, А. А. Фридман, Е. А. Щегольков,
С. В. Яблонский и другие.
Благодаря усилиям Петра Сергеевича на кафедре математического
анализа создан сильный коллектив квалифицированных математиков
разных направлений. Как заведующий кафедрой Петр Сергеевич не
стесняет инициативу членов кафедры в построении того или иного курса,
напротив, он всегда одобряет такую инициативу, лишь бы содержание и
своеобразие в построении курса не снижало научного уровня предмета.
В течение более чем 30-летней работы в Педагогическом институте
Петр Сергеевич принимает активное участие в организации учебного
процесса и постановке преподавания математики на
физико-математическом, а затем математическом факультетах. При его непосредственном
участии и решающем влиянии разрабатывались учебные планы и
программы по математическим дисциплинам. П. С. Новиков вместе
с А. И. Мальцевым был инициатором введения курса математической
логики в учебный план педагогических институтов и автором программы
по этому курсу. Его монография «Элементы математической логики»,
вышедшая в 1959 г., является первой и до настоящего времени
единственной в нашей отечественной литературе книгой по математической логике.
Она сыграла важную роль в математическом образовании студентов и
молодых ученых в нашей стране. Благодаря авторитету Петра Сергеевича
как выдающегося ученого и педагога и как руководителя ведущей
кафедры, на математическом факультете Педагогического института
9

им. В. И. Ленина установился и поддерживается высокий уровень
преподавания математики.
В 1953 г. П. С. Новиков был избран членом-корреспондентом,
а в 1960 г. — действительным членом Академии наук СССР.
За многолетнюю плодотворную научную и педагогическую работу
Петр Сергеевич Новиков награжден двумя орденами Ленина, орденом
Трудового Красного Знамени, значком «Отличник народного
просвещения» и медалями.
ЛИТЕРАТУРА
1. П. С. Новиков. Sur les fonctions implicites mesurables В. Fund. Math., 17, 1, 1931.
2. П. С. Новиков. Sur la separabilite des ensembles projectifs de seconde classe. Fund.
Math., 25, 4, 1935.
3. H. H. Лузин. О некоторых новых результатах дескриптивной теории функций*
Изд-во АН СССР, 1935.
4. П. С. Новиков. О непротиворечивости некоторых логических исчислений. Матем.
сб., 12 (54), 2, 1943.
5. П. С. Новиков. О логических парадоксах. Докл. АН СССР, 56, 2, 1947.
6. П. С. Новиков. О классах регулярности. Докл. АН СССР, 64, 3, 1949.
7. П. С. Новиков. Об аксиоме полной индукции. Докл. АН СССР, 64, 4, 1949.
8. П. С. Новиков. О непротиворечивости некоторых положений дескриптивной
теории множеств. Труды Матем. ин-та АН СССР, 38, 1951.
9. П. С. Новиков. Об алгоритмической неразрешимости проблемы тождества слов
в теории групп. Труды Матем. ин-та АН СССР, 44, 1955.
10. П. С. Новиков. О периодических группах. Докл. АН СССР, 127, 1959.
11. П. С. Новиков, С. И. Адян. О бесконечных периодических группах. I,* II, III.
Изв. АН СССР, серия матем., 32 : 1, 2, 3, 1968.

А. А. ЛЯПУНОВ
О РАБОТАХ П. С. НОВИКОВА
В ОБЛАСТИ ДЕСКРИПТИВНОЙ ТЕОРИИ МНОЖЕСТВ
Настоящая статья написана в расчете на читателей, хорошо знакомых
с дескриптивной теорией множеств. В то же время работы П. С. Новикова
представляют интерес для широкого круга математиков. Поэтому в конце
статьи помещено дополнение, где даются определения использованных
в ней понятий, а такяке формулируются некоторые результаты, на
которые данная статья опирается.
Петр Сергеевич Новиков учился в МГУ в то время, когда в расцвете
своей творческой активности находился Н. Н. Лузин. Очень скоро
П. С. Новиков вошел в коллектив, руководимый Н. Н. Лузиным, и занял
в нем чрезвычайно заметное место. Под влиянием Н. Н. Лузина первый
период научной деятельности П. С. Новикова был посвящен
дескриптивной теории множеств. Он продолжался от студенческих лет почти до
самой Отечественной войны. Интересы П. С. Новикова были всегда
направлены на наиболее принципиальные проблемы теории множеств,
внутренний смысл которых состоял в том, чтобы понять, каковы возможности
человеческого интеллекта в познании актуальной бесконечности. Работа
в области дескриптивной теории множеств и функций была начата
французскими математиками Борелем, Бэром и Лебегом на рубеже XIX—
XX веков. Ими была разработана в основных чертах теория Б-множеств
и ^-функций. В результате этих работ сложилось впечатление, что для
нужд анализа этих объектов достаточно. Однако вопрос о природе
неявных В-функций оставался открытым г. В дальнейшем Лузин, Суслин и
Александров показали, что операции проектирования или непрерывного
преобразования выводят за пределы В-множеств, так же как операция
верхнего предела по непрерывному параметру выводит за пределы
©-функций. Отправляясь от этого, они открыли Л-множества и в первом
приближении построили их теорию [3]. Однако для решения вопроса о природе
неявных Б-функций этих средств оказалось недостаточно. В то же время
вопрос о природе неявных Б-функций имел в тот период принципиальное
значение. В самом деле операция континуального верхнего предела в во-
Лебегом было объявлено «решение», основанное на ошибочной лемме о том, что
проекция Я-множества есть ^-множество. Из этого следовало, что всякая неявная
^-функция униформизируется ^-функцией.
И

просах анализа употребляется сравнительно редко. Можно представить
себе некоторый ограниченный анализ, в котором он запрещен и который
тем не менее охватывает всю классическую проблематику анализа. Однако
исключить из рассмотрения неявные функции совершенно невозможно.
П. С. Новиков построил пример неявной 5-функции, которая не уни-
формизируется посредством явной 2?-функции. Этот пример явился
конструкцией совершенно нового типа. В этой конструкции был впервые
получен принцип сравнения индексов для .4-множеств:
Если$х(х) и (32 (х) два внешних трансфинитных индекса, определенных
решетами, составленными из В-множеств, то множество точек, где Мх)^
^ Р2 (х) есть А-множество.
Попутно была доказана 2-я теорема отделимости для Л-множеств:
Если у двух А-множеств удалить их общую часть, то оставшиеся
части отделимы посредством С А-множеств
и был дан пример пары непересекающихся СА-множеств, не отделимых
посредством В-множеств.
Таким образом, эта студенческая работа П. С. Новикова явилась
источником новых, весьма мощных методов в дескриптивной теории
множеств. В той же работе П. С. Новиков изучил природу не более чем счетно-
значных неявных В-функций. Оказалось, что они всегда униформизи-
руются посредством 5-функций; более того, они распадаются на не более
чем счетное число функций, определенных, вообще говоря, на различных
множествах, и таких, что каждая из них на том множестве, где она
определена, совпадает с некоторой 5-функцией.
П. С. Новиков показал также, что если плоское 5-множество таково,
что в каждую точку оси абсцисс проектируется не более чем счетное число
точек данного множества, то его проекция есть Б-множество. Отсюда
вытекает, что неявная, не более чем счетно-значная, 5-функция всегда
оказывается определенной на некотором 5-множестве [26].
Таким образом, природа неявных 5-функций в этой работе (1927 г.)
была изучена исчерпывающим образом. За этим последовал значительный
цикл работ П. С. Новикова, связанных с систематическим использованием
принципа сравнения индексов. Он определил трансфинитные индексы
на проективных множествах класса А2 и показал, что для них также имеет
место принцип сравнения индексов; опираясь на этот принцип, он
установил, что во 2-м классе проективных множеств имеют место обращенные
законы отделимости. А именно,
(1) любые два непересекающихся СА-множества отделимы посредством
В—множеств;
(2) если у двух А-множеств (или С А—множеств) удалить их общую
часть, то остающиеся части отделимы посредством А—множеств;
(3) существуют два непересекающихся А-множества, не отделимые
посредством В—множеств (см. [27]).
Очень важную роль в дескриптивной теории множеств играет вопрос
о мощности множеств, принадлежащих тем или другим классам. Обычным
средством для установления того, что несчетное множество некоторого
класса имеет мощность континуума, является выделение в этом
множестве совершенного подмножества. Именно таким образом П. С. Александро-
12

вым было показано, что всякое несчетное .4-множество (а значит, и Б-мно-
жество) имеет мощность континуума. По отношению к С А -множествам
(а также и к Л2-множествам) из свойств трансфинитных индексов вытекает,
что несчетное множество этого класса либо содержит совершенное ядро,
либо имеет мощность ^х. Н. Н. Лузин постоянно привлекал внимание
к проблеме о том, существует ли во всяком несчетном С.4-множестве
совершенное ядро. Со свойственной ему способностью находить узловые
проблемы в тех областях математики, которые его интересовали, он всегда
считал, что это одна из основных задач дескриптивной теории множеств.
В то же время сам Н. Н. Лузин выдвинул гипотезу, связывающую
возможность выделения совершенного подмножества в несчетном множестве
определенной природы с возможностью эффективного указания точки
во всяком непустом множестве соответствующей природы. В частности,
для Л-множества такое указание легко проходит, а конструкция
совершенного подмножества в произвольном ^-множестве строится на той же
идее. Таким образом возникла весьма распространенная точка зрения
о том, что трудности, связанные с построением совершенного
подмножества в произвольном несчетном С.4-множестве, имеют то же происхождение,
что и трудность эффективного указания точек в произвольном непустом
С/4-множестве.
И вот появилась работа П. С. Новикова, в которой им был построен
эффективный трансфинитный процесс, позволяющий указать точку в
произвольном непустом СЛ-множестве, отправляясь от решета (или Л-опера-
ции), составленного из отрезков, посредством которого это С А -множество
задано. При этом оказалось, что никаких подступов к построению
совершенного подмножества в несчетном С А -множестве эта конструкция не
давала [5]. Зато П. С. Новиков получил следующую редукцию проблемы
существования совершенного ядра в С А -множестве. Он установил, что
либо существует несчетное СА-множество, у которого все конституанты
содержат не более чем по одной точке, либо, если это не так, то всякое
несчетное С А -множество содержит совершенное подмножество [16].
Другими словами, если в каждом несчетном СЛ-множестве можно
указать две точки, принадлежащие к одной и той же конституанте, то из этого
следует, что в каждом несчетном С.4-множестве имеется совершенное ядро.
В этой последней конструкции принцип сравнения индексов играл весьма
существенную роль. Отправляясь от процесса указания точек в непустом
С.4-множестве и опираясь на принцип сравнения индексов, П. С.
Новиков показал, что плоское С4-множество униформизируется посредством
Л2-множества (этот результат остался неопубликованным). В
дальнейшем, используя те же средства, но проделав оценку более тщательно,
японский математик М. Кондо показал, что всякое плоское С4-множество
униформизируется посредством С А -множества [24].
Примерно в то же время П. С. Новиков получил замечательное
обобщение принципа сравнения индексов на случай А -операций над множествами
произвольной природы. Пусть К — некоторый класс множеств,
инвариантный относительно конечных пересечений, а М — максимальный
подкласс класса К, инвариантный относительно взятия дополнения. Пусть
(Зх (х) и (32 (х) суть два внешних трансфинитных индекса, определенных
13

4-операциями: первый — над множествами класса К, второй — над
множествами класса М. Тогда множество точек, в которых (Зх (х) ^ (32 (х),
может быть представлено посредством А -операции над множествами
класса К. Из этого результата вытекают 1-я и 2-я теоремы отделимости
для С-множеств класса а, аналогичные тем, которые известны для А
-множеств, а также теорема неотделимости для дополнений к С-множествам
класса а, вполне аналогичная теореме о неотделимости С А -множеств [14].
В дальнейшем на основе этого принципа сравнения индексов было
показано, что для высших классов С-множеств не имеют места ни аналог
теоремы Суслина, ни аналог теоремы об ограниченности индексов. Это
непосредственно следует из работы Куратовского, в которой он показал,
что из принципа сравнения индексов вытекает, что все С-множества лежат
в классе В2 проективных множеств1 [25].
Этот результат П. С. Новикова навел автора настоящей статьи на
мысль о том, что для /?-операций тоже должен иметь место аналогичный
принцип сравнения индексов. В дальнейшем это явилось инструментом
для изучения /?-множеств [7, 10].
К проблематике, непосредственно связанной с принципом сравнения
индексов, относится также работа П. С. Новикова по теории кратной
отделимости. Им было показано, что в выше описанном классе множеств К
из справедливости 1-й теоремы отделимости (всякие два
непересекающиеся множества класса К отделимы множествами класса М) следует
справедливость 1-й теоремы о конечнократной отделимости, а именно:
пусть Ev Е2, . . ., Еп — множества класса К, такие, что f)Ei = 0; тогда
i
существуют множества Hv Н2, . . ., IIп класса Л/, такие, что Н.^ЭЕ{
для всякого i и f}H.= 0.
i
Для случая Л-множеств П. С. Новиков показал, что аналогичные
теоремы отделимости справедливы и для случая счетных пересечений.
Опираясь на эту теорему, он доказал, что если плоское Б-множество таково,
что каждый перпендикуляр к оси абсцисс пересекает его по компактному
или пустому множеству, то проекция этого Б-множества на ось абсцисс
есть Б-множество [11, 13, 18]. Окончательный результат в этом
направлении получил ученик П. С. Новикова В. Я. Арсенин, который доказал,
что результат остается в силе, если заменить компактные множества
множествами типа абсолютное FQ [1]. В дальнейшем Петр Сергеевич
передал эту тематику А. А. Ляпунову. Целая серия различных теорем
о кратной отделимости были получены Лузиным, Серпинским, Ружеви-
чем, Козловой, Ляпуновым и другими. Они оказались удобным аппаратом
для установления многих результатов дескриптивной теории множеств.
В некотором смысле завершающий результат в этом направлении был
получен Ляпуновым, который показал, что если для некоторого класса
множеств имеются трансфинитные индексы, подчиненные принципу
сравнения, и если этот класс множеств инвариантен относительно некоторых
1 Впервые последний результат был получен Л. В. Канторовичем и Е. М. Ливенсоном
другими средствами [23].
14

^-операций, то в этом классе имеют место как 1-я, так и 2-я теоремьр
о кратной отделимости для соответствующей Bs-операции [6].
П. С. Новикова всегда интересовал вопрос о роли эффективных
конструкций в теории множеств и выяснение различных возможностей и
подходов к выяснению природы эффективных теоретико-множественных
конструкций. При этом он не ограничивался общими соображениями,
а старался получать в каждом направлении, которое казалось ему
перспективным, конкретные математические результаты. Таких попыток П. С.
Новиков сделал много, но, к сожалению, далеко не все, что он в этой области
получал, считал нужным публиковать. Отметим некоторые работы
П. С. Новикова, выполненные в этом духе. Один из вопросов состоял в том,,
чтобы выяснить, в какой степени те или другие подмножества континуума,
«бедные» точками по своим внутренним свойствам, родственны всему
континууму. В частности, если бы всякое несчетное подмножество
континуума оказалось равномощным континууму, то это давало бы решение
проблемы континуума.
П. С. Новиков вводит другую, не столь жесткую, как несчетность,
характеристику «бедных» подмножеств — быть не 1-й категории на
некотором совершенном множестве г — и ставит следующий вопрос: можно ли
на всяком релятивном континууме определить функцию, которая не
может быть продолжена до Б-функции, определенной на всем континууме.
Он показал, что ответ оказывается положительным [12] 2. Заметим, что
из существования С.4-множеств, не отделимых посредством Б-множеств,
следует, что на некоторых С А -множествах заведомо существуют функции,
которые не могут быть продолжены до Б-функций на всем континууме.
Другой подход П. С. Новикова к родственным вопросам состоит в том,
чтобы выяснить, как обстоит дело с несчетными подмножествами
континуума, содержащими совершенные подмножества.
Если бы этот вопрос решался положительно, то отсюда следовало бы
положительное решение проблемы континуума. П. С. Новиков обратил
внимание на то, каким путем обычно доказывается несчетность отрезка.
Из предположения, что отрезок пересчитан, т. е. дана счетная
последовательность, элементами которой являются все точки отрезка, извлекается
построение точки, не фигурирующей в этой последовательности. При этом
некоторое число первых знаков арифметического представления этой
точки определяется, отправляясь от некоторого конечного числа первых
знаков некоторого числа первых членов этой последовательности.
Отправляясь от этого обстоятельства, П. С. Новиков вводит своеобразную эф-
фективизацию понятия несчетности. Множество называется эффективно-
несчетным, если всякой счетной последовательности его точек поставлена
в соответствие точка того же множества, такая, что некоторый набор
первых знаков ее арифметического разложения определяется по
некоторому набору первых знаков точек, входящих в некоторый отрезок задан-
1 Такие подмножества названы релятивными континуумами.
2 Здесь можно сформулировать следующую задачу, которая, насколько мне известно,
не решена: сохранится ли результат П. С. Новикова, если считать релятивным^
континуумом такое множество, которое не принадлежит некоторому разреженному
классу (см. [8, 10]).
15

ной последовательности, и в таком процессе может быть определен любой
знак арифметического разложения этой точки.
П. С. Новиков показал, что всякое эффективно-несчетное множество
содержит совершенное ядро [19]. Эта работа получила дальнейшее
развитие в работах Л. Я. Крейнина и А. А. Ляпунова [2, 9].
В конце 30-х годов П. С. Новиковым была сделана попытка
классификации эффективных теоретико-множественных конструкций. Им был
определен некоторый регулярный трансфинитный процесс, который
продолжается не только по трансфинитам 2-го класса, но и по трансфинитам
3-го класса и затухает где-то в пределах трансфинитов 3-го класса.
При этом не оставалось средств для эффективных построений, которые 'бы
вывели за пределы этих конструкций. Существенно то, что вместе с
построением множества осуществлялся эффективный пересчет посредством
трансфинитов 2-го класса сегмента трансфинитов, определенного тем
трансфинитным числом, которое характеризовало ранг построения [4].
Впоследствии эта конструкция П. С. Новикова была усовершенствована
А. В. Кузнецовым. Основная идея этой конструкции была использована
А. А. Ляпуновым при описании эффективных операций, приводящих
к измеримым множествам [10]. В дальнейшем, пользуясь этой идеей,
Аддисон построил множество, универсальное для всех проективных.
В настоящее время в теоретико-алгоритмических конструкциях идея
определения эффективных трансфинитов одновременно с описанием
конструкций к построению новых классов эффективных множеств широко
используется (Ю. Л. Ершов, А. Мостовский, К. Куратовский, В. И. Амсти-
славский).
В 1936 г. появилась работа Гёделя [22], в которой в некотором смысле
была установлена непротиворечивость положительного решения
континуум-проблемы, а также непротиворечивость аксиомы Цермело, и была
анонсирована непротиворечивость существования СЛ-множества без
совершенного ядра и существования неизмеримых проективных множеств
2-го класса. Эта работа вызвала у П. С. Новикова очень большой интерес.
По-видимому, он был первый у нас в стране, который оценил глубину и
значимость этой работы. Однако долгое время подробное доказательство
утверждений этой работы, относящихся к дескриптивной теории множеств,
не появлялось. Опираясь на основную идею К. Гёделя, состоящую в
присоединении аксиомы конструктивности к системе аксиом теории множеств
Цермело—Френкеля, и используя дескриптивные методы, разработанные
им самим, П. С. Новиков получил доказательство обоих дескриптивных
утверждений К. Гёделя [20]. Кроме того, он установил, что в том же
смысле непротиворечиво наличие обращенных законов
отделимости и неотделимости (т. е. таких же, как во 2-м классе) для всех классов
проективных множеств, начиная с некоторого. Впоследствии Аддисон
доказал, что это имеет место, начиная с 3-го класса проективных
множеств [21].
В самое недавнее время В. А. Любецкий, используя метод форсинга,
построенный Коэном, доказал, не прибегая к специальным аксиомам, что:
1) из существования неизмеримого ,42-множества следует
существование С/4-множества без совершенного ядра;
16

2) из существования Л2-множества лишенного свойства Бэра, также
следует существование С.4-множества без совершенного ядра.
Он же установил, что не существует других логических зависимостей
между следующими тремя предложениями:
A) наличие неизмеримого Л2-множества;
Б) наличие Л2-множества, лишенного свойства Бэра;
B) наличие С А -множества без совершенного ядра.
Во время Великой Отечественной войны многие близкие ученики
П. С. Новикова служили в армии.
Некоторые (Янков, Вихман, Лукьянов) не вернулись. Вернувшимся
было це просто возвратиться к творческой научной работе после
военного перерыва. Чтобы помочь своим ученикам восстановить научную
форму, П. С. Новиков организовал семинар по теории алгоритмов — это
было новое направление, тесно примыкающее к математической логике и
идейно связанное с вопросами оснований математики и теории множеств,
которое сильно развилось за границей, главным образом в США, в конце
30-х—начале 40-х годов. В Советском Союзе теория алгоритмов в тот
момент была недостаточно известна. Вернувшиеся из армии ученики
П. С. Новикова имели разнообразные служебные обязанности, они были
обременены бытовыми трудностями послевоенного периода, поэтому
устроить такой семинар в дневное время в университете, в Ленинском
пединституте или Математическом институте им. Стек лова было трудно.
Ввиду этого П. С. Новиков решил собирать семинар вечером у себя дома.
Участники семинара расходились нередко после 12 часов ночи.
Все участники до сих пор вспоминают этот семинар с глубокой
благодарностью, так как он оказал большое влияние на научные интересы
и научное мировоззрение участников и содействовал возвращению их
к научной работе. В частности, автор настоящей статьи вернулся к
теоретико-множественной тематике под непосредственным влиянием самого
П. С. Новикова и той обстановки, которая сложилась вокруг этого
семинара.
Нужно отметить, что, хотя возникновение теории алгоритмов в идейном
отношении было в значительной мере подготовлено дескриптивной теорией
множеств (некоторые прогнозы в этом направлении высказал еще
Н. Н. Лузин), все же в 1945—1946 гг. эта тематика была совершенно новой
для московских математиков. Более того, она была связана с несколько
иным научным мировоззрением, чем то, которое культивировалось в
московской теоретико-множественной школе.
На семинаре реферировались основополагающие работы Поста, Черча,
Клини, Тьюринга и других. Со многими работами сам П. С. Новиков
впервые знакомился на заседаниях семинара. Многие из них были написаны
непривычным для москвичей формальным языком. Прямо на семинаре
П. С. Новиков очищал основные идеи от формализма, выявлял природу
основных конструкций, прослеживал идейные связи
теоретико-алгоритмических и теоретико-множественных проблем и ставил большое
количество разнообразных и интересных новых задач. Этот семинар очень
содействовал тому, что вскоре после войны в Москве интенсивно развернулись
17

работы в новых направлениях, относящихся к теории множеств,
математической логике, теории алгоритмов, основаниям математики и ряду
разделов теории функции действительного переменного.
Косвенным образом этот семинар сильно содействовал тому, что у
многих из его участников позднее возникли интересы к электронным
вычислительным машинам и кибернетике и появилась уверенность в том, что
для развития этих новых областей органически необходим высокий уровень
математической культуры.
В процессе работы этого семинара П. С. Новиков поставил серию задач,
касающихся рекурсивных, рекурсивно-перечислимых множеств и
различных иерархий множеств, возникающих естественным путем, отправляясь от
этих классов множеств. Этими задачами занялся целый ряд участников
семинара. Были исследованы аналоги проективных множеств, оператор р.;
самим П. С. Новиковым были установлены некоторые аналоги принципа
сравнения индексов и были получены теоремы об отделимости и
неотделимости для некоторых классов множеств. Впрочем, П. С. Новиков
рассматривал эти задачи как чисто учебные и не считал нужным публиковать эти
результаты. Впоследствии за рубежом этим вопросам был посвящен целый
ряд публикаций.
Работая в области теории множеств, П. С. Новиков всегда стремился
к выбору наиболее принципиальных вопросов, связанных с развитием
всей математики в целом. Под влиянием Н. Н. Лузина его заинтересовал
вопрос об очерчивании возможностей и выяснении роли эффективных
методов в теории множеств. Он всегда стремился к тому, чтобы нащупать
границу между теми проблемами, которые берутся эффективными методами,
и теми, которые выходят за пределы возможностей эффективного. Его
интерес был вызван классификациями или иерархиями, которые
рассматривались в дескриптивной теории множеств, потому что здесь все начинается
с простейших объектов — интервалов или отрезков — и простейших
операций — объединения, пересечения и дополнения. Далее к этому
присоединяются операции проектирования или непрерывного преобразования
и процесс трансфинитной индукции. Оказывается, что такие, казалось быг
весьма обозримые средства, приводящие к индивидуально определимым
эффективным объектам, приводят к вопросам, которые эффективными
средствами не берутся. Сюда относили такие вопросы, как мощность СА-
множеств (или проблему существования у них совершенного ядра),
измеримость проективных множеств, возможность эффективного указания
точек в заведомо непустом СЛ-множестве (или проблема униформизации
С А -множества), наконец, законы отделимости для проективных множеств
высших классов. Подозрения о том, что дескриптивная теория множеств
доводит до границы эффективного, высказывались и раньше. В частности
здесь очень велика заслуга Н. Н. Лузина. Однако П. С. Новиков сумел
сочетать идею о поисках границ эффективного с исключительно яркими
и сильными конструкциями и показал, что эта граница находится
значительно дальше, чем это представлялось раньше.
Природа неявных В-функций, отделимость проективных множеств 2-го
класса, указание точки в непустом СЛ-множестве — все это оказалось
в пределах возможностей эффективного. Наконец, П. С. Новиков показал,
18

что эффективные конструкции классифицируются естественным образом
не только по трансфинитам 2-го класса, но что эти классификации
простираются до некоторого трансфинита 3-го класса. Занимаясь дескриптивной
теорией множеств, П. С. Новиков естественным образом подошел к
вопросам основания математики и после появления замечательной работы
К. Гёделя, где была доказана непротиворечивость гипотезы континуума
в рамках классических аксиоматик теории множеств, принял деятельное
участие в разработке нового направления и весьма плодотворно
объединил методы аксиоматической и дескриптивной теории множеств.
Результатом такого объединения явилось то, что было выяснено, что многие из
фундаментальных задач дескриптивной теории множеств, не поддавшиеся
эффективным методам (проблема совершенного ядра в С А -множествах,
измеримость проективных множеств, отделимость проективных множеств
высших классов) существенным образом зависят от специальных теоретико-
множественных аксиом типа гёделевской аксиомы конструктивности.
Дополнение
Для простоты мы будем рассматривать множества, лежащие в
евклидовых пространствах различных измерений, а также функции,
принимающие действительные значения и определенные в этих же
пространствах.
1. Б-функциями называются функции, которые можно
получить, отправляясь от непрерывных функций путем последовательного
конечного или счетного применения операции взятия предела всюду
сходящейся последовательности.
2„ В - множествами называются множества, которые можно
получить, исходя из открытых множеств, путем последовательного конечного
или счетного применения операций взятия счетного объединения или
счетного пересечения.
3. Подмножество U совершенного множества Р называется м н о ж е-
ством первой категории на Р, если оно является
объединением конечного или счетного числа множества, нигде не плотных на Р.
Дополнение доРк множеству первой категории на Р называется
множеством второй категории на Р.
4. Множество U обладает свойством Бэра на
совершенном множестве Р, если у всякого совершенного подмножества Р'
множества Р найдется совершенная порция к, такая, что 1]ъ — либо
первой, либо второй категории на тс.
5. Все В-множества измеримы и обладают свойством Бэра.
6. i-множества, лежащие в пространстве ^-измерений, суть
проекции на это пространство Б-множеств, лежащих в объемлющем его
пространстве лг—j—1 -измерений.
7. Теорема Суслина. Два взаимно дополнительных 4-множества суть
Б-множества.
8. Пусть К — некоторый класс множеств и М — его максимальный
подкласс, инвариантный относительно перехода к дополнениям. Говорят,
что в классе К имеет место 1-я теорема отделимости, если
19

для всяких двух непересекающихся множеств Ег и Е2 класса К существуют
два непересекающихся множества Нх и Л2 класса М, такие, что
H1Z)E1n #2 =) Е2.
9. Теорема Лузина. Для класса 4-множеств справедлива 1-я
теорема отделимости.
10. Опираясь на эту теорему, Н. Н. Лузин доказал, что проекция
униформного Л-множества есть В-множество.
11. .4-множества измеримы и обладают свойством Бэра.
12. Пусть Е — множество, лежащее в плоскости XOY. Говорят, что
его подмножество f/униформизирует множество Е относительно
оси Y, если на всякой параллели к оси У, пересекающей множество Е,
множество U имеет одну и только одну точку.
13. Пусть соотношение
F(x, y) = 0, (1)
определяет у как неявную функцию от х (ясно, что некоторым х может
отвечать много разных значений у). Говорят, что функция y=f (x) у н и-
формизирует неявную функцию (1), если
1) функция y=f(x) определена для тех и только тех значений х, для
которых уравнение F (х, у) = 0 имеет решение.
2) F(x, f(x)) = 0.
14. 4-множество можно определить также посредством операции
решета над Б-множеством.
15. Операция решета над системой множеств {Ur},
занумерованных рациональными числами, определяется так.
Пусть 0 (х) — множество всех тех значений г, для которых х £ Ur.
Возможны два случая: либо 0 (х) вполне упорядочено в порядке возрастания
чисел г и (3 (х) есть порядковый тип этого множества, либо 0 (х) не вполне
упорядочено в указанном смысле, тогда полагаем $ (x) = Q. Операция
решета определяет индекс (3 (х) и множество точек E=r {Ur), где (3 (x) = Q.
Если все множества Ur суть В-множества, то г {Ur} есть
.4-множество. Каково бы ни было трансфинитное число 2-го класса (30, множество
точек, где (3 (х) <С (30» есть в этом случае Б-множество.
16. Принцип ограниченности индекса. Пусть (3 (х) -—
индекс, определенный решетом из Б-множеств и Е — соответствующее ему
.4-множество, а Е' есть .4-множество, не пересекающееся с множеством Е.
Тогда на множестве Е' индекс (3 (х) ограничен некоторым трансфинитным
числом 2-го класса.
17. 4-операция над системой множеств {U„lt ...,ял.}, занумерованных
всевозможными кортежами натуральных чисел nv n2, ,. ., пк,
определяется так:
A{Unv...,nk}= U П иЯит..,Як,
«1, п2, ..., njc,... к
где для всякой последовательности натуральных чисел пъ п2,. . ., пк,. . .
берется пересечение всех множеств, занумерованных сегментами этой
последовательности, а затем составляется объединение этих пересечений
для всех последовательностей натуральных чисел.
20

Известно, что всякую Л-операцию можно привести к виду решета и
тем самым построить отвечающий ей трансфинитный индекс. Для
трансфинитных индексов Л-операций справедливы все те же утверждения, что
и для трансфинитных индексов решет.
18. Дополнения к Л-множествам называются СА-м ножествами.
19. Проективные множества — это наименьший класс
множеств, содержащий все Б-множества и инвариантный относительно
операций проектирования счетного объединения и взятия дополнения.
20. Множества класса А2 суть проекции С А -множеств.
Множества класса СА2сутъ дополнения к множествам класса А2.
Множества класса В2 суть те, которые являются одновременно
А2- и СЛ2-множествами.
21. Пусть в пространстве ?г+1-измерения дано С А -множество Н и Е
есть его проекция на подпространство /г-измерений. Тогда Е является
Л2-множеством. Пусть индекс (3 (х) (х — есть точка п-\- 1-мерного
пространства) принимает значения, меньшие Q в точках множества if, и определен
решетом, составленным из д+1-мерных Б-множеств. Определим новый
индекс у (*/), где у — точка ?г-мерного пространства, так: если у£Е, то
у (z/) = min (В (х), где у есть проекция точки х, и если у£СЕ, то у (y) = Q.
Это и есть индекс, определенный П. С. Новиковым для проективных
множеств 2-го класса.
22. С-множествами называют такие множества, которые получаются
из открытых множеств путем конечно- или счетнократного применения
Л-операций и взятия дополнения.
ЛИТЕРАТУРА
1. В. Я. Лрсенин. Природа проекций некоторых В-множеств. Изв. АН СССР, серия
матем., 4, 1940, 403—410.
2. Я. Л. Крейнин. О совершенных компактных ядрах множеств, эффективно
отличных от всех Ф-множеств. Докл. АН СССР, 118, № 3, 1958, 436—438.
3. Н. Н. Лузин, Об аналитических множествах. Собр. соч., т. 2, 380—459.
4. Н. Н. Лузин. О некоторых новых результатах дескриптивной теории функций.
Изд-во АН СССР, 1935, 86.
5. Н. Н. Лузин, П. С. Новиков. Эффективный выбор точки в произвольном
аналитическом дополнении, заданном посредством решета. Н. Н. Лузин. Собр. соч., т. 2,
617—618.
6. А. А. Ляпунов. О кратной отделимости для os-операций. Докл. АН СССР, 53, № 5,
1946, 399—402.
7. А. А. Ляпунов. Об Я-множествах. Докл. АН СССР, 58, № 9, 1947, 1887—1890.
8. А. А. Ляпунов. О ^-операциях, сохраняющих измеримость и свойство Бэра.
Матем. сб., 24, № 1, 1949, 119—127.
9. А. А. Ляпунов. Об эффективной измеримости. Изв. АН СССР, серия матем., 13,
1949, 357—362.
10. А. А. Ляпунов. Л-множества. Труды Матем. ин-та АН СССР, 40, 1953, 68.
11. Я. С. Новиков. Об одном свойстве аналитических множеств. Докл. АН СССР,.2,
1934, 273—276.
12. П. С. Новиков. К теории релятивного континуума. Докл. АН СССР, 3, 1934, 17—20.
13. П. С. Новиков. О счетно-кратной отделимости В аналитических множеств.
Докл. АН СССР, 3, 1934, 145—148.
21

14. П. С, Новиков. О некоторых системах множеств, инвариантных по отношению
к Л-операции. Докл. АН СССР, 3, 1934, 557—560.
15. П. С. Новиков. Обобщение второго принципа отделимости. Докл. АН СССР, 4,
1934, 8—11.
16. 77. С. Новиков. О взаимоотношении второго класса проективных множеств и
проекций униформных аналитических дополнений. Изв. АН СССР, серия матем., 2,
1937, 231-252.
17. П. С. Новиков. Отделимость ^-множеств. Изв. АН СССР, серия матем., 2, 1937,
253—264.
18. 77. С. Новиков. О проекциях некоторых 7?-множеств. Докл. АН СССР, 23, 1939,
863—864.
19. П. С. Новиков. О множествах эффективно-несчетных. Изв. АН СССР, серия матем.,
4, 1939, 35—40.
20. 77. С. Новиков. О непротиворечивости некоторых положений дескриптивной теории
множеств. Труды Матем. ин-та АН СССР, 38, 279—316.
21. /. W. Addison. Some consequences of the axiom of constructibility. Fund. Math., 46,
1958, 337—357.
22. K. Godel. The consistency of the axiom of choice and of the generalized continuum-
hypothesis. Proc. Nat. Acad. Sci. U. S. A., 24, 1938, 556—557.
23. L. V. Kantorovich, E. M. Livenson. Memoir ou the analytical operations and
projective sets, part I. Fund. Math., 18, 1932, 214—279. Part II. Fund. Math., 20, 1933,
54—97.
24. M. Kondo. L'uniformisation des complementaires analytiques. Proc. Imp. Acad.
Tohoku, 13, 1937, 287-290.
25. K. Kurafowski. Les ensembles projectifs et Г operation (А). Сотр. г. Acad. sci. Paris,
203, 1936.
26. P. S. Novikof. Sur les functions implicites mesurables (B). Fund. Math., 17, 1931,
8—21.
27. P. S. Novikof. Sur la separabilite des ensembles projectifs de seconde classe. Fund.
Math., 25, 1935, 459-466.

С. И. А Д Я Н
О РАБОТАХ П. С. НОВИКОВА И ЕГО УЧЕНИКОВ
ПО АЛГОРИТМИЧЕСКИМ ВОПРОСАМ АЛГЕБРЫ
В 1952 г. Петр Сергеевич Новиков впервые построил пример конечно-
определенной группы с неразрешимой проблемой тождества [1, 3]. Хотя
к этому времени уже было известно о существовании неразрешимых
алгоритмических проблем в математике [18, 31], результат П. С. Новикова
вызвал огромный интерес широкого круга математиков, так как это было
решение хорошо известной проблемы, ставшей уже классической.
Специалисты теории групп возлагали большие надежды на положительное
решение этой проблемы, которое должно было бы облегчить исследование
групп, задаваемых с помощью определяющих соотношений. С другой
стороны, было ясно, что решение проблемы тождества теории групп
потребует создания достаточно сильного метода для исследования групп,
задаваемых с помощью определяющих соотношений. Именно такой метод,
получивший название метода проходных букв, был построен П. С.
Новиковым для доказательства неразрешимости проблемы тождества теории
групп.. Впоследствии этот метод нашел широкое применение при
исследовании групп с определяющими соотношениями.
Задание групп с помощью определяющих соотношений заключается
в следующем. Пусть имеется некоторый конечный алфавит г
5 = {о1, а2, ..., ап). (1)
Рассмотрим еще один алфавит
§ = {аТ\ а~\ .... а?}. (2)
Буквы ат1. назовем обратными по отношению к аг Пусть, кроме того, дан
некоторый конечный или бесконечный набор равенств
Fj = Gp (3)
где Fj, Gj — слова в алфавите S' = S\JS. Равенства (3) называются
определяющими соотношениями. Наряду с ними рассматриваются так
называемые тривиальные определяющие соотношения
а(а? = 1, (4)
а7Ч=1. (5)
где i = 1, 2, . . ., п и через 1 обозначено пустое слово.
1 Можно рассматривать бесконечный алфавит S любой мощности, но при р ассмотрении
алгоритмических проблем особый интерес представляет случай, когда алфавит S
конечен.
23

Переходы вида
PEQ-+PTQ, (6)
где Е=Т или Т=Е есть одно из определяющих соотношений (3), (4) и (5)г
& Р и Q — произвольные слова в алфавите 5", называются элементарными
преобразованиями. Два слова X и Y в алфавите S' называются
эквивалентными, если либо X графически совпадает с Y (пишем ХхУ), либо
можно указать конечную последовательность элементарных
преобразований
Х-^-Х,-* ... -**,-> Х<+1-> ... -> Y. (7)
Множество всех слов в алфавите S' разбивается этим отношением на
классы эквивалентны^ слов. Множество всех классов эквивалентности
с операцией умножения, естественным образом определенной через
операцию приписывания слов
{X){Y) = {XY}, (8)
образует некоторую группу Г. Это и есть группа, которая задается
образующими (1) и определяющими соотношениями (3). В случае, когда
множества (1) и (3) конечны, эта группа называется конечно-определенной.
При этом слова в алфавите 5" называются словами группы Г, а про
эквивалентные слова говорят, что они равны в группе Г. Проблема тождества
для данной группы Г заключается в отыскании алгоритма, который
позволяет по любой паре слов в алфавите 5" ответить на вопрос: эквивалентны
они в этой группе или нет. Если такой алгоритм невозможен, то говорят,
что проблема тождества неразрешима.
Так как группа Г однозначно определяется заданием алфавита (1) и
системы соотношений (3), то, обозначив (3) через D, мы можем записывать
Г = <5; Z)».
По существу здесь мы имеем некоторое исчисление (групповое
исчисление) с достаточно простыми правилами вывода, в котором выводимыми
формулами являются равенства слов.
Для исследования выводимости в групповых исчислениях П. С.
Новиков ввел понятие правильной системы проходных букв и установил
свойства таких систем. Пусть алфавит S группы Г разбит на две части: S =
= S± (J S2. Множество S2 называется системой проходных букв группы Гr
если можно так разбить множество D на две части D1 и D2, чтобы
выполнялись следующие два условия:
1) в соотношения из D± не входят буквы из алфавита «S^U^»"
2) каждое соотношение из D2 имеет вид Ар = рВ, где р £ S2, а слова
Л и Б не содержат букв из алфавита S2\JS2-
Группа I\ = C^i> D{}> называется основанием группы Г по системе
проходных букв S2. Пусть р £ S2. Выпишем все соотношения из D2,
содержащие букву р:
AjP = pBj (/ = 1,2,...,*). (9)
Через А (р) обозначим подгруппу группы Tv порожденную всеми словами
Aj при /=1,2,. . ., t, а через В (р) — подгруппу, порожденную словами
Вj при 7 = 1,2,. . ., t. Соотношения (9) дают нам соответствие
XznA7Al ...AZ — В\\В\\ ... S-^cp (X).
24

Система проходных букв S2 группы Г называется правильной, если для
каждой буквы p£S2 соответствие Lp отображает изоморфно А (р) на В (р).
Другими словами, это означает, что произвольное слово X из левой части
соответствия Lp равно 1 в Г тогда и только тогда, когда равно 1 в Г2
соответствующее слово <р (X).
Связанные с соотношениями (4) и (5) элементарные преобразования
PQ -* Pa^Q, PQ -> Put%Q
называются вставками буквы а{, а обратные преобразования называются
сокращениями буквы а..
Прежде чем сформулировать основные свойства систем проходных букв,
установленные П. С. Новиковым, мы должны привести определение
понятия соответствия по индивидуальности, также введенное П. С.
Новиковым. Во всяком элементарном преобразовании (6) каждая буква
из подслова Р (или Q) правой части этого перехода ставится в
соответствие по индивидуальности той же букве того же подслова Р (или Q)
левой части. Кроме того, в случае, когда Е=Т, есть одно из соотношений
(9), и, следовательно, преобразование (6) имеет вид
PAjpQ -> PpBjQ или PpBfi -> PAjpQ,
единственная явно выписанная буква р из правой части ставится в
соответствие по индивидуальности единственной явно выписанной букве
р из левой части. Так, определенное соответствие букв по
индивидуальности распространяется транзитивно на любую последовательность
элементарных преобразований (7).
В работе [3] П. С. Новиковым были установлены следующие основные
свойства систем проходных букв.
Лемма 1. Если S2 — система проходных букв группы Г, p£S%
и слова и и и находятся в соответствии L , то можно указать
последовательность элементарных преобразований группы Г
в которой нет вставок проходных букв.
Лемма 2. Если S2— система проходных букв группы Г, р £ S2 и
имеется последовательность элементарных преобразований
ElPR1 -> E2pR2 -> ... -> ErpRr
без вставок проходных букв, где выделенные буквы р совпадают по
индивидуальности, то можно указать слова и и v* находящиеся в соответствии
Ьр, и две последовательности элементарных преобразований без вставок
проходных букв
ElU -+ . .. -> Ег, и'1Дг ->...-> Rr.
Лемма 3. Если S2 — правильная система проходных букв группы
Г, в слово Y не входят буквы из ~S2 и X=Y в Г, то можно указать
последовательность элементарных преобразований
Х-+ ... -*Y,
в которой нет вставок проходных букв.
25

Лемма 4. Если S2 — правильная система проходных букв группы Г
и 1\ — основание группы Г по системе проходных букв S2, то любые два
слова X и Y в алфавите S1\JS1 равны в группе Г в том и только том
случае, если они равны в Тг.
Из леммы 3 непосредственно вытекает следующая ниже лемма 5,
которая неоднократно использовалась неявно в работе [3]. Однако
формулировка ее в явном виде была приведена позже лишь в [26].
Лемма 5. Пусть S2 — правильная система проходных букв группы Г
и в слово X входят проходные буквы. Если Х=1 в Г, то либо Xz°z
zn Yp^CpZ, где р£ S2, и слово С равно в основании 1\ некоторому слову и
из левой части соответствия L , либо Xz^: YpCp~lZ, где^р £ S2, и слово С
равно в Тг некоторому слову v из правой части соответствия L .
Из неразрешимости проблемы тождества для данной группы
непосредственно следует неразрешимость для нее другой известной
алгоритмической проблемы — проблемы сопряженности, которая состоит в отыскании
алгоритма, распознающего по произвольной паре слов, сопряжены они
в этой группе или нет. Ввиду сложности приведенного в [3] примера
группы с неразрешимыми проблемами тождества и сопряженности
П. С. Новиков в работе [2] привел другой более простой пример конечно-
определенной группы с неразрешимой проблемой сопряженности. Вскоре
выяснилось [23], что проблема тождества для этой группы разрешима.
Впоследствии различными авторами были построены более простые
примеры групп с неразрешимой проблемой тождества [17, 26, 27].
Из своего основного результата П. С. Новиков вывел также
неразрешимость проблемы изоморфизма теории групп. Эта проблема заключается
в отыскании алгоритма, распознающего по любой паре
конечно-определенных групп, изоморфны они или нет. Мы приведем здесь соответствующие
рассуждения П. С. Новикова, которые им не были опубликованы в печати.
Все образующие построенной в [3] группы имеют бесконечный порядок,
а проблема тождества в ней неразрешима для некоторого класса слов
(обозначим его через 95?), которые либо равны 1, либо имеют
бесконечный порядок. Пусть
Г = <а1э а2, ..., ая; £>>
есть эта группа. Каждому слову X из класса 99? ставится в соответствие
конечно-определенная группа
Г(Х)==<а1э а2, ..., ап, Ъ19 62,. .., Ъя; D, а.6,=6.Х>,
где £=1,2,. . ., п. Очевидно, если Х = 1 в Г, то в Г (X) имеем а. = 1 при i=
= 1,2,. . ., п. Тогда группа Г (X) изоморфна свободной группе с п
образующими. Множество всех букв Ъ. есть система проходных букв группы Г (X),
а Г есть основание группы Г (X) по этой системе проходных букв. Если
Х=^=1 в Г, то слово X, так же, как и все образующие а., имеет бесконечный
порядок в группе Г. Тогда система проходных букв Ь{ группы Г (X)
правильная и по лемме 4 произвольное слово Y группы Г равно 1 в Г тогда
и только тогда, когда Y=l в Г (X). Это означает, что при Х=^=1 в Г группа
Г (X) не изоморфна свободной группе с п образующими, так как в ней
неразрешима проблема тождества. Следовательно, невозможен алгоритм
для распознавания по группе Г (X) при X £ 99?, изоморфна она свободной
группе с п образующими или нет.
.26

К исследованию алгоритмических проблем теории групп П. С.
Новиков привлек учеников: С. И. Адяна, К. А. Михайлову и А. А. Фридмана.
В работах [8] и [9] было продолжено исследование проблемы
изоморфизма теории групп. Каждой конечно-определенной группе Г соответствует
^е частная проблема изоморфизма, которая заключается в отыскании
алгоритма, позволяющего распознавать по любой группе, изоморфна она
группе Г или нет. В [8, 9] доказано, что для всякой конечно-определенной
группы Г ее частная проблема изоморфизма неразрешима.
Групповое свойство называется инвариантным если оно, будучи
выполнено в некоторой группе Г, выполняется и во всякой группе,
изоморфной группе 1\ Ивариантное групповое свойство называется
наследственным, если оно, будучи выполнено в некоторой группе, выполняется также
во всякой ее подгруппе. Наследственное свойство называется
нетривиальным, если существует группа, обладающая этим свойством, и группа, не
обладающая им. В [8, 9] было доказано, что для произвольного
нетривиального наследственного свойства а и произвольного инвариантного
свойства (3 невозможен алгоритм распознавания конъюнкции свойств а и (3.
Заметим, что (В здесь можно опустить. Из этих двух теорем следует, что
для большинства наиболее интересных групповых свойств проблема
распознавания неразрешима. В частности, это относится к любому свойству,
выражаемому с помощью тождественных соотношений: абелевость,
нильпотентность, разрешимость и др. Сюда относятся также и такие свойства,
как конечность, периодичность, цикличность и т. д. Несколько позже
в [10, 11 ] и [32] была получена более общая теорема о невозможности
распознавания инвариантных групповых свойств, аналогичная известной уже
тогда теореме А. А. Маркова для полугрупп [19]. Инвариантное
групповое свойство а называется марковским, если существует группа со
свойством а и группа, не вложимая ни в какую группу со свойством а.
В [10, 11] и [32] доказано, что для каждого марковского группового
свойства а невозможен алгоритм, распознающий по любой
конечно-определенной группе Г выполнено свойство а в Г или нет. Из этого результата
вытекает следующее любопытное следствие. Пусть Ка есть класс всех
групп, обладающих инвариантным свойством а. С каждым таким классом
Ка связаны две алгоритмические проблемы: проблема тождества для групп
из класса Ка и проблема распознавания по любой группе, принадлежит
она классу Ка или нет. Оказывается, что для любого непустого класса Ка,
по крайней мере, одна из этих двух проблем неразрешима.
Проблема вхождения для данной конечно-определенной группы Г
заключается в следующем. Требуется найти алгоритм, распознающий по
любой конечно-порожденной подгруппе 1\ группы Г и любому слову X
группы Г, принадлежит X подгруппе 1\ или нет. Если фиксировать
подгруппу 1\, то получим частную проблему вхождения для этой подгруппы.
П. С. Новиковым была высказана гипотеза, что уже для прямых
произведений свободных групп может быть неразрешима частная проблема
вхождения в некоторую подгруппу. Это утверждение было доказано в [21].
Там же доказано, что в прямом произведении двух групп с разрешимой
проблемой вхождения эта проблема также будет разрешима, если один из
множителей есть абелева группа, а в [22] доказано, что разрешимость
21

проблемы вхождения сохраняется для свободных произведений конечно-
определенных групп.
Неразрешимость проблемы тождества для полугрупп была установлена
А. А. Марковым и Э. Постом еще в в 1947 г. [18, 31 ]. В 1957 г. П. С.
Новиков поставил вопрос о разрешимости проблемы тождества для полугрупп
с одним определяющим соотношением. Исследование этого вопроса было
предпринято в работе [12]. Там была установлена разрешимость проблемы
тождества для полугрупп с одним определяющим соотношением вида А ~В,
где либо одно из слов А ж В пусто, либо оба они начинаются и кончаются
разными буквами. В общем случае этот вопрос остается пока открытым.
Известен пример полугруппы с тремя определяющими соотношениями и
неразрешимой проблемой тождества [20].
Из теории алгоритмов известно, что неразрешимые алгоритмические
проблемы могут иметь различные степени неразрешимости. Говорят, что
алгоритмическая проблема *21 сводится к алгоритмической проблеме 93,
если удается найти алгоритм, решающий проблему ЗД с попутным
использованием ответов на любые частные вопросы, которые требуется решать
в проблеме 93. Две алгоритмические проблемы 21 и 93 имеют одну и ту же
степень неразрешимости, если каждая из них сводится к другой. В работах
[24, 25] с использованием методов П. С. Новикова было установлено, что
для любой степени неразрешимости у рекурсивно перечислимого
множества существует конечно-определенная группа, у которой проблема
тождества имеет степень неразрешимости у. В [16] теми же методами доказано,
что проблема сопряженности построенных в [2] групп с разрешимой
проблемой тождества может иметь любую наперед заданную степень
неразрешимости рекурсивно перечислимого множества. Заметим, что были
получены также и другие доказательства последних двух результатов
[28, 29, 30].
Все перечисленные выше результаты о неразрешимых алгоритмических
проблемах теории групп по существу были вызваны к жизни основным
результатом П. С. Новикова о неразрешимости проблемы тождества
теории групп. В 1957 г. за этот результат П. С. Новикову была присуждена
Ленинская премия. Продолжая исследовать природу групповых
исчислений, П. С. Новиков заинтересовался известной проблемой Берн-
сайда о периодических группах. Эта проблема, сформулированная
еще в 1902 г., заключалась в следующем: будет ли конечной всякая группа
с конечными числом образующих и тождественным соотношением хп=1?
Многие видные алгебраисты пытались решить эту проблему. Появились
многочисленные ее модификации для различных алгебраических систем.
До 1959 г. сама проблема Бернсайда была решена и притом положительно
лишь при д^4и п=&. К 1959 г. у Петра Сергеевича наметилась идея
отрицательного решения этой проблемы в общем случае. Опубликованное
им тогда предварительное сообщение [4] явилось крупной сенсацией в
алгебраической науке. В 1960 г. П. С. Новиков привлек к сотрудничеству над
этой проблемой автора настоящей статьи. В результате совместной работы
было доказано, что при т ^ 1 и нечетных п ^ 4381 существует
бесконечная периодическая группа показателя п с т образующими. Для
доказательства этого результата, опубликованного в 1968 г., был создан метод
28

исследования периодических групп, основанный на некоторой
классификации периодических слов в данном алфавите [5]. Эта классификация
складывается из большого числа взаимосвязанных понятий и их свойств,
доказываемых совместной индукцией по натуральному параметру. Здесь мы
ограничимся указанием на некоторые достаточно просто формулируемые
особенности построенной в [5] теории.
Пусть фиксированы натуральные числа ^>1 и нечетное п ^ 4381.
Будем рассматривать несократимые слова в групповом алфавите
а19 а2, ..., ат, а-1, а~\ . . ., а;п\ (10)
Совместной индукцией по натуральному параметру а вводятся следующие
основные понятия рассматриваемой теории.
1) Класс слов Па. При а = 0 это есть множество всех несократимых
слов в алфавите (10).
2) Ядро ранга а слова X при X £ Па. При а = 0 это любое вхождение
буквы в слово X. При а>0 всякое ядро ранга а слова X есть
вхождение какого-то элементарного слова ранга а (см. ниже п. 6) в слово X.
3) Рефлексивное, симметричное и транзитивное отношение X ~ У
определено для слов X, У£Па и называется эквивалентностью ранга а. При
а = 0 это отношение совпадает с графическим равенством.
4) Если X, У£Па и при некоторых Х1? У^П^ верны соотношения:
X<±Xl9 Y^Yl9 X1zoZX2T, YizszT-1Y2 иХ2У2£Па, то мы пишем Х2У2 =
= [Х, У]а. Операция Z = [X, Y]a определена для любых X, У£Па,
однозначна с точностью до эквивалентности ранга а и ассоциативна.
5) Функция W = fa(V, Y) для любой пары слов X, У£ПаприХ~ Y
дает взаимно однозначное отображение множества всех ядер V ранга а
слова X на множество всех ядер W ранга а слова У. Если W = fa(V, У),
то V = fa (W, X) и сохраняет взаимное расположение ядер ранга а.
6) Основу рассматриваемой классификации слов составляет понятие
элементарного слова ранга а+1, которое является обобщением понятия
периодического слова. В частности, периодическое слово вида А*Аг с
минимальным периодом А называется элементарным словом ранга 1, если
в слово Л4 не входит никакое слово вида ВЛВГВХ, где д(Вг) > 16д (В),
Слово XznAtA1 называется периодическим словом ранга а+1, если Аг
есть начало А, Х£Па, д(Х) ^ 18 д (А) и можно указать такое ядро V=
=P*E*Q ранга а слова X, что д (Р) > 8д (А) и д (Q) > 8д (А). Такие ядра V
ранга а слова X называются его опорными ядрами. Два опорных ядра
V± и V2 слова X называются соответствующими по фазе, если V2
получается в результате сдвига Vx на целое число периодов А. Если Y £ Яа и
Y ~ X, где X — периодическое слово ранга а+1, то У называется целым
словом ранга а+1. Вообще говоря, целые слова ранга а+1 не являются
периодическими. Однако используя функцию /а (F, У), можно
распространить на У определенное для X соответствие по фазе опорных ядер ранга а.
Таким образом удается перенести на целые слова ранга а+1, а также на
«достаточно длинные» подслода целых слов (полуцелые слова), некоторые
свойства периодических слов ранга а+1. Так возникает понятие числа
участков полуцелого слова ранга а+1, которое является аналогом числа
29

периодов периодического слова. Периодические (целые и полуцелые)
слова ранга а+1 называются элементарными словами ранга а+1, если
в них не входят «достаточно длинные» (содержащие достаточно большое
число участков) полуцелые слова «другой природы».
7) Простым поворотом ранга а+1 называется преобразование вида
РВ*В& -^PiB'^-^B-'Q, (И)
где BtB1 есть элементарное слово ранга а + 1 с периодом В, В z°z BxB2r
РВ'В&ЬП^ PiB-^-^B^Q^ll^ и каждое из слов BtB1 и (B^f'^B^
содержит достаточно много участков В (В"1). Поворотом ранга а + 1
называется любой переход вида X -> У, где X, У £ Па и для некоторого
простого поворота (И) X ^ PBtBjQ, У а Р(В'1)п-*~1 B^Q- Среди поворотов:
ранга а + 1 выделяются так называемые реальные повороты ранга а + 1,
Два слова X, Y £ Па называются эквивалентными в ранге а + 1 [X ~L У)>
если либо X ~ У, либо можно указать последовательность реальных
поворотов ранга а + 1, переводящую X в У.
Далее определяется понятие ядра ранга а + 1, которое всегда есть
вхождение элементарного слова, содержащего не менее 17 участков.
Через Па+1 обозначается множество таких слов X £ Па, у которых каждое-
ядро содержит не более п — 708 участков.
Таким образом, по определению классов Па имеем
П0ЭП1эП2з..оПр П,+1 з . . .
00
Пусть *2{ = ПП,.. Два слова Х,У£ЭД назовем эквивалентными (пишем
X ~ Y), если X ~ У, где a = max(d(X), d(Y)). Пусть 93 есть
множество всех классов эквивалентности, на которые ЗД разбивается
отношением X — У. На множестве 93 следующим образом определяем
операцию и о v:
uov=-.{[X, У]а},
где Х£и, Y£v, сс=тах(д(Х)у д (У)) и {Z} есть класс слов,
эквивалентных слову Z. Доказывается, что множество 93 с операцией uov есть
бесконечная группа. Эта группа в [5] обозначена через Г (га, п). Она
порождается образующими {аг}, {а2}, . . ., {ат} и в ней выполнено тождество
я* = 1. (12)
Пусть В (га, п) есть группа, определенная образующими и
тождественными соотношениями (12), где десть нечетное число ^4381 иш>1.
Нетрудно доказать, что соответствие
««-{««} (13)
дает изоморфное отображение группы В (т, п) на группу Г (га, п).
Используя такое представление свободной бернсайдовой группы В (га, п)>
можно исследовать различные ее свойства.
Так как все определенные в [5] классы слов и отношения между словами
рекурсивны, то это дает нам решение проблемы тождества в группе В (га, п)
[6]. В [6] доказано также, что тождество (12) эквивалентно бесконечной
системе определяющих соотношений Ап=1, где Ап пробегает множество
всех элементарных слов ранга а с периодом А при всех а> 1, но его
нельзя заменить никаким конечным числом определяющих соотношений»
30

С помощью представления (13) для группы В (т, п) в [7] доказывается,
что если АВ=ВС и А=^=1 в В (т, п), то можно указать такое слово Е, что
Е=В в В (га, п) и д (Е) ^ ^ (д, 9 (А)+д (С)), где ^ (д, у) — некоторая
рекурсивная функция. Это дает нам алгоритм для решения проблемы
сопряженности в группах В (га, п). Отсюда также следует, что нормализатор
любого неединичного элемента группы В (га, п), а следовательно, и любая
ее абелева подгруппа конечны.
Несколько позже в [14] было доказано, что при тех же ограничениях
на га и п абелевыми или конечными подгруппами группы В (га, п) являются
только ее циклические подгруппы. Там же с помощью методов работы [5]
доказано, что в группе В (2, п) слова а^а^аг^, а\а2а~2 и а\а2а~^ порождают
подгруппу, изоморфную группе В (3, п). Таким образом, впервые было
найдено нетривиальное многообразие групп, в котором свободная группа
с тремя образующими вкладывается в свободную группу этого же
многообразия с двумя образующими.
В работе [13] с помощью некоторого обобщения метода работы [5] было
установлено, что система групповых тождеств
(яГугяаГгяУ~гя)я=1, (14)
где 72 = 4381 и г пробегает множество всех простых чисел, есть
неприводимая система, т. е. ни одно из этих тождеств не следует из остальных.
Это был первый в теории групп конкретный пример бесконечной системы
групповых тождеств, не эквивалентной никакой конечной системе
тождеств. Из этого результата непосредственно следует еще один интересный
результат, относящийся к алгоритмическим проблемам теории ipynn.
Пусть Р есть рекурсивно перечислимое, но нерекурсивное множество
простых чисел, а Г (Р) есть группа, заданная с помощью образующих и всех
тождественных соотношений вида (14), щер(+Р. Очевидно, в Г (Р)
неразрешима проблема тождества.
Наконец, следует отметить, что уже имеются приложения построенного
в [5] метода к исследованию групп, которые не только не являются
периодическими, но даже не имеют кручения. В работе [15] с помощью этого
метода установлено существование неабелевых групп без кручения с
конечным числом образующих, в которой любые две неединичные подгруппы
имеют нетривиальное пересечение. До этого были известны лишь абеле-
левы примеры такого рода (например, аддитивная группа рациональных
чисел), которые являются локально циклическими.
ЛИТЕРАТУРА
1. Л. С. Новиков. Об алгоритмической неразрешимости проблемы тождества теории
групп. Докл. АН СССР, 85, № 4, 1952, 709—712.
2. Л. С. Новиков. Неразрешимость проблемы сопряженности в теории групп.
Изв. АН СССР, серия матем., 18, № 6, 1954, 485—524.
3. Л. С. Новиков. Об алгоритмической неразрешимости проблемы тождества слов в
теории групп. Труды Матем. йн-та АН СССР, 44, 1955.
4. Л. С. Новиков. О периодических группах. Докл. АН СССР, 127, № 4, 1959, 749.
5. П. С. Новикову С. И. Адян. О бесконечных периодических группах, I, II, III.
Изв. АН СССР, серия матем., 32, 1, 2, 3, 1968, 212—244, 251—524, 709—731.
31

6. П. С. Новиков, С. И. Адян. Определяющие соотношения и проблема тождества
для свободных периодических групп нечетного порядка. Изв. АН СССР, серия
матем., 32, № 4, 1968, 971—979.
7. П. С. Новиков, С. И. Адян. О коммутативных подгруппах и проблеме
сопряженности в свободных периодических группах нечетного порядка. Изв. АН СССР,
серия матем., 32, № 5, 1968, 1176—1190.
8. С. И. Адян. Алгоритмическая неразрешимость проблем распознавания
некоторых свойств групп. Докл. АН СССР, 103, № 4, 1955, 533—535.
9. С. И. Адян. Неразрешимость некоторых алгоритмических проблем теории групп.
Труды Моск. матем. об-ва, 6, 1957, 231—298.
10. С. И. Адян. Конечно-определенные группы и алгоритмы. Докл. АН СССР, 117,
№ 1, 1957, 9-12.
11. СИ. Адян. Об алгоритмических проблемах в эффективно-полных классах групп.
Докл. АН СССР, 123, № 1, 1958, 13-16.
12. С. И. Адян. Определяющие соотношения и алгоритмические проблемы для групп
и полугрупп. Труды Матем. ин-та АН СССР, 85, 1966.
13. С. И. Адян. Бесконечные неприводимые системы групповых тождеств.
Изв. АН СССР, серия матем., 34, № 4, 1970, 715—734.
14. С. И. Адян. О подгруппах свободных периодических групп нечетного показателя.
Труды Матем. ин-та АН СССР, 112, 1971, 64—72.
15. С. И. Адян. О некоторых группах без кручения. Изв. АН СССР, серия матем., 35,
№ 3, 1971, 459—468.
16. Л. А. Бокутъ. Степени неразрешимости проблемы сопряженности для конечно-
определенных групп. Алгебра и логика, Семинар, 7, вып. 5, 1968.
17. В. В. Борисов. Простые примеры групп с неразрешимой проблемой тождества.
Матем. заметки, 6, вып. 5, 1969, 521—532.
18. А. А. Марков. Невозможность некоторых алгорифмов в теории ассоциативных
систем. Докл. АН СССР, 55, № 7, 1947, 587-590.
19. А. А. Марков. Теория алгорифмов. Труды Матем. ин-та АН СССР, 42, 1954.
20. Ю. В. Матиясевич. Простые примеры неразрешимых ассоциативных исчислений.
Докл. АН СССР, 173, № 6, 1967, 1264—1266.
21. К. А. Михайлова. Проблема вхождения для прямых произведений групп. Матем.
сб., 70, вып. 2, 1966, 241—251.
22. К. А. Михайлова. Проблема вхождения для свободных произведений групп.
Матем. сб., 75, вып. 2, 1968, 199—210.
23. А. А. Фридман. О взаимоотношении между проблемой тождества и проблемой
сопряженности в конечно-определенных группах. Труды Моск. матем. об-ва, 9,
1960, 329—356.
24. А. А. Фридман. Степени неразрешимости проблемы тождества в
конечно-определенных группах. Докл. АН СССР, 147, № 4, 1962, 805—808.
25. А. А. Фридман. Степени неразрешимости проблемы тождества в
конечно-определенных группах. Труды ЦЭМИ. «Наука», 1967.
26. /. L. Britton. The word problem. Ann. Math., 77, N 1, 1963, 16—32.
27. W. W. Boone. The word problem. Ann. Math., 70, N 2, 1959, 207—265.
28. W. W. Boone. "Word problems and recursively enumerable degrees of unsolvability.
A sequel on finitely presented groups. Ann. Math., 84, N 1, 1966, 49—84.
29. C. R. J. Clapham. Finitely presented groups with word problems of arbitrary degrees
of insolvability. Proc. London Math. Soc, ser. 3, 14, N 56, 1964, 633—676.
30. D. J. Collings. Recursively enumerable degrees and the conjugacy problem. J. Symb.
Logic, 32, N 3, 1967, 432—433.
31. E. L. Post. Recursive unsolvability of a problem of Thue. J. Symb. Logic, 12, N 1,
1947, 1—11.
32. M. O. Rabin. Recursive unsolvability of group theoretic problems. Ann. Math., 67,
N 1, 1958, 172—194.

В. Я. АРСЕНИН
ОБ ОДНОМ СПОСОБЕ ПРИБЛИЖЕННЫХ РЕШЕНИЙ
ИНТЕГРАЛЬНЫХ УРАВНЕНИЙ
ПЕРВОГО РОДА ТИПА СВЕРТОК
§ 1
1. Для изучения физических явлений, процессов требуется знать их
количественные характеристики — физические величины,
характеризующие явления, процессы (скорость, давление, температуру, напряженность
поля и др.). Во многих случаях физические величины х недоступны
непосредственному измерению и измеряются лишь их опосредствованные
проявления и=Ах, где А — Оператор (преобразователь), определяемый
природой явления и способом измерения интересующей нас величины.
По результатам измерений и требуется восстановить величину х. Конечно,
при этом должен быть известен характер влияния преобразователя на
величину х, т. е. должен быть известен оператор А. Таким образом, задача
определения физической величины х, характеризующей явление, процесс,
сводится к решению уравнения
Ах = и, (1)
в котором оператор А и правая часть и известны, а я — подлежит
определению. К таким задачам относится классическая обратная задача теории
потенциалов.
В каждой конкретной задаче нахождения физических величин
требуется искать решение в классе элементов, обладающих определенными
свойствами, x£F, где F — множество элементов с требуемыми свойствами.
Например, требуется искать решение в классе непрерывных функций
(х(<С), если х — функции одной или многих переменных, или в классе
непрерывно дифференцируемых функций (х^С1).
В связи с этим различают корректно поставленные и некорректно
поставленные задачи. Впервые эти понятия ввел в рассмотрение Жак
Адамар.
2. Задача определения х (решения) из множества F по «входным
данным» и из множества U, x=R(u) называется корректно поставленной на
множествах (F, U), являющихся метрическими пространствами с
расстояниями pF(xv x2) и pgfa, и2), где Хц x2(*F, иъ u2£U, если
удовлетворяются требования:
1) для всякого u£U существует решение х из F;
33

2) решение определяется однозначно;
3) решение должно непрерывно зависеть от входных данных, т. е. для
всякого е^>0 можно указать такое 8(e), что если ри(их, и2)^Ь и #х =
= i?(^), x2 = R(u2), то pF(xv х2)^е. Свойство 3) называют также
свойством устойчивости решения.
Задачи, не удовлетворяющие перечисленным требованиям, называются
некорректно поставленными.
Если задача неустойчива, то x2=R (u2) не может приближать x±—R {и^)у
если даже и2 как угодно точно приближает uv П. С. Новиков впервые
доказал единственность решения обратной задачи теории потенциалов в
достаточно общих предположениях [1].
3. Рассмотрим весьма типичную некорректно поставленную задачу.
Пример. Интегральное уравнение Фредгольма 1-го рода со сколь
угодно гладким ядром k (t, у) (даже аналитическим)
ь
\k(t, y)x(y)dy = u(t). (2)
а
Решение ищется в классе непрерывных функций (F). Уклонение правой
части и (t) будем оценивать в метрике L2, а уклонение х (у) — в метрике
С, т. е.
?и(иг и2) = \иг — и2||v р^(х1х х2) = ||хх — х2\G.
Пусть для некоторой правой части и=иг (t) функция хг (у) является
решением уравнения (2). Если вместо функции иг (t) нам известно лишь
некоторое ее приближение, мало отличающееся (в метрике L2) от иг (t), то
речь может идти лишь о нахождении приближенного к хг (у) решения
уравнения (2). При этом правая часть и (t) может не обладать достаточной
гладкостью. Она может быть получена в эксперименте, например, с помощью
самописца и иметь угловые точки. При такой правой части уравнение (2)
не имеет решения, так как ядро к (t, у) является гладкой функцией.
Следовательно, в качестве приближенного к хг (у) решения уравнения (2) нельзя
брать точное решение уравнения (2) с приближенно известной правой
частью и (t)=^=u1 (t). В этих условиях не выполняется требование 1)
корректности задачи. Возникает принципиальный вопрос: что надо
понимать под приближенным решением уравнения (2) с приближенно известной
правой частью?
Кроме того, задача (2) не обладает свойством устойчивости, т. е. не
выполняется требование 3) корректности задачи. В самом деле, функция
х2 (у)==х1 (у)~\~ББтсау будет решением уравнения (2) с правой частью
ь
и2 it) = иг (I) + В \ к (t, у) sin ыуйу.
а
Очевидно, каково бы ни было число Б, при достаточно больших значениях
со уклонение
?и (иъ и2) = В К к2 (t, у) sin2 (s>ydy\
34

можно сделать сколь угодно малым, в то время как для соответствующих
решений хх (у) и х2 (у)
?f(xi> x2)= suP | Я sin coy [ = [£[.
Таким образом, задача (2) является некорректно поставленной. К таким
уравнениям приводятся многие задачи физики и техники. Например,
задачи спектроскопии (определение распределения плотности энергии
излучения по спектру по результатам измерения экспериментального
спектра), обратные задачи астрономии и другие.
Описанная в примере ситуация является типичной для некорректно
поставленных задач.
§ 2
1. Широким классом некорректно поставленных задач, возникающих
в физике и технике, являются так называемые обратные задачи. К ним
относятся и упомянутые в § 1 задачи определения физических величин
по результатам измерения их проявлений.
Пусть изучаемый объект (явление) характеризуется элементом хт
(функцией, вектором), принадлежащим многообразию F. Часто хт
недоступен для прямого изучения и изучается некоторое его проявление ит =
=Ахт. Очевидно, уравнение Ах=и имеет решение только для таких
элементов и, которые принадлежат множеству AF, являющемуся образом
множества F при отображении и=Ах. Элемент ит обычно получается путем
измерений и потому известен приближенно. Пусть и — это приближенное
значение. В этих случаях речь может идти лишь о нахождении
приближенного к хт решения уравнения
Ах = и. (1)
При этом и, вообще говоря, не принадлежит множеству AF. Оператор А
во многих случаях является таким, что обратный ему оператор А"1 не
является непрерывным [например, когда А — вполне непрерывный
оператор; в частности, — интегральный оператор (2)]. В этих условиях
нельзя в качестве приближенного решения брать точное решение
уравнения (1) с приближенной правой частью, т. е. нельзя в качестве
приближенного решения брать элемент х=А~ги, так как:
а) такого решения может не существовать, поскольку и может не
принадлежать множеству AF (не выполняется требование 1) корректности);
б) такое решение, — если даже оно существует, — не будет обладать
свойством устойчивости, поскольку обратный оператор А'1 не является
непрерывным. Таким образом, не выполняется требование 3)
корректности. Следовательно, задача (1) является некорректно поставленной.
2. Отсутствие устойчивости во многих случаях делает невозможной
физическую интерпретацию результатов измерений. Выполнение этого
требования необходимо также для использования численных методов
решения задачи по приближенным «входным данным». Таким образом,
для некорректно поставленных задач возникает принципиальной важности
вопрос: что надо понимать под приближенным решением таких задач?
35

Если дан ответ на этот вопрос, то возникает также задача нахождения
таких алгоритмов построения приближенных решений, которые обладают
свойством устойчивости к малым изменениям «входных данных».
В основе возможности нахождения таких алгоритмов лежит идея
использования различной дополнительной информации об искомом
решении, позволяющей сузить класс допустимых функций (возможных
приближенных решений) так, что задача нахождения приближенного
решения в таком суженном классе Fx (Fx С F) становится устойчивой
к малым изменениям «входных данных».
Замечание. Если множество F является компактным, то из
условия непрерывности отображения F —> U, осуществляемого оператором А,
и взаимной однозначности его следует непрерывность обратного
отображения U -> F. В этом случае для построения приближенного решения
уравнения (1) можно пользоваться обратным оператором Л"1, если
правая часть и принадлежит множеству AF — образу множества F при
отображении А. Однако во многих случаях множество F не является
компактным и изменения правой части уравнения (1), связанные с ее
приближенным характером, могут выводить ее за пределы множества AF. Такие
задачи будем называть существенно некорректными.
3. Представляется очевидным, что, как правило, невозможно
производить вручную обработку результатов измерений и идентификацию их
с интересующими нас физическими величинами. Это надо делать с
.помощью электронно-вычислительных машин (ЭВМ). Таким образом, для
целей практики необходимо иметь в виду реализацию на ЭВМ алгоритмов
построения приближенных решений уравнений вида (1), т. е. алгоритмов
обработки результатов измерений. Поэтому при построении таких
алгоритмов необходимо требовать сравнительно простую реализуемость их
на ЭВМ.
Таким образом, одной из основных математических задач проблемы
восстановления физических величин по результатам измерения их
проявлений является задача нахождения алгоритмов построения
приближенных решений уравнений вида (1), удовлетворяющих требованиям:
Тг) устойчивости к малым изменениям исходных данных; Т2) простой
реализуемости их на ЭВМ. Для одного и того же уравнения вида (1) можно
построить бесконечное множество таких алгоритмов.
4. Определив алгоритм построения решения уравнения (1),
обладающий указанными свойствами, необходимо изучить оценку отклонения
приближенного решения, полученного с его помощью, от точного. При этом
надо дать, во-первых, оценку влияния самого метода и, во-вторых, оценку
влияния неточности правой части. Определим точнее смысл этих терминов.
Пусть элементы хт £ F и ит £ U связаны соотношением Ахт=ит.
Тогда элемент хт будем называть точным решением уравнения (1) с
правой частью и—ит. Если элемент ит нам известен лишь приближенно, т. е.
вместо ит в правой части уравнения (1) мы имеем элемент и, близкий к ит
(в метрике пространства U), то задача может ставиться лишь о нахождении
приближенного к хт решения. Пусть Ru — алгоритм построения
приближенного решения. Мерой влияния метода (короче — влиянием метода)
будем называть величину уклонения (в метрике пространства F) эле-
36

мента Rum от точного решения хт. Мерой влияния неточности правой части,
короче — влиянием ошибки, будем называть величину уклонения (в
метрике пространства F) элемента Ru от Rum. Если оператор R — линейный,
то оценка последнего сводится к оценке R {и—ит).
5. Как отмечалось выше, для каждой некорректно поставленной задачи
существует бесконечное множество обладающих свойствами Тг) и Т2)
алгоритмов построения приближенных решений. Естественно поставить
задачу нахождения среди этих алгоритмов оптимального. Уточним
постановку вопроса.
Пусть 91 — семейство операторов Ru, определенных для всех
элементов множества U, со значениями из F, и обладающих свойствами Тг) и Г2).
Определение. Оператор R0 из 91 будем называть оптимальным1
на семействе 91, если
PF(xm, R0U)= inipF(xr, Ru).
веж
Здесь pF(xm, Ru) — расстояние (в метрике F) от хт до Ru.
Таким образом, оптимальный на 91 оператор R0 — это оператор,
дающий наименее уклоняющееся от хт (в смысле метрики пространства F)
приближенное решение уравнения (1).
Приближенное решение уравнения (1), полученное с помощью
оптимального оператора, т. е. xonT=R0u, будем называть оптимальным
приближенным решением.
Представляет интерес также задача оценки уклонения оптимального
решения от приближенного решения, полученного с помощью
неоптимального оператора из семейства 91 или из подсемейства 91г С 9?. Так,
если выделить в семействе операторов 91 подмножество 91г операторов,
наиболее просто реализуемых на ЭВМ (или требующих для своей
реализации существенно меньшего числа операций), то надо знать оценку
уклонения приближенного решения x1=^R1u, Rx £ 9lv от оптимального
решения. В ряде случаев из-за отсутствия достаточной информации не
представляется возможным построить оптимальное приближенное решение,
в то время как можно получить неоптимальное приближенное решение.
В этих условиях представляет несомненный интерес оценка отклонения
таким образом построенного приближенного решения от оптимального.
6. Во многих случаях оператор А зависит от параметров av а2, . . ., ап.
При одних значениях этих параметров Ах несет в себе
непосредственную информацию о явлении, характеристикой которого является элемент
#, и для извлечения этой информации или совсем не требуется
производить математическую обработку результатов наблюдения элемента Аху
или достаточно произвести простую обработку их. При других значениях
параметров av a2, . . ., ап для получения нужной информации о явлении
требуется произвести сложную (и часто дорогостоящую) математическую
обработку результатов наблюдений. В ряде случаев при некоторых
значениях параметров av a2, . . ., ап мы не можем имеющимися в нашем
распоряжении средствами извлечь необходимую нам информацию из
результатов наблюдений элемента Ах. В некоторых случаях при соответствующих
* Оптимальность можно понимать и в смысле минимума другого функционала на Ru.
37

значениях параметров ах, а2, . . ., ап мы можем извлечь (со сложной
математической обработкой или без нее) нужную нам информацию из
результатов наблюдений элемента Ах, но при этих условиях, т. е. при
упомянутых значениях параметров av a2, . . ., ап производство наблюдений
элемента Ах может быть трудно реализуемым или дорогостоящим. Поэтому
возникает задача априорного нахождения условий (априорных условий) —
области значений параметров av а2, . . ., ап — экономичного проведения
(планирования) экспериментов по производству наблюдений элемента Ах.
Сюда, в частности, относятся и требования к точности измерительной и
другой аппаратуры.
7. Во многих случаях приближенно известна не только правая часть
уравнения (1), но и оператор А. В этих случаях задача нахождения
алгоритма построения приближенного решения, вопросы оценки влияния
метода и влияния ошибок на приближенное решение, а также задача
нахождения оптимальных алгоритмов и др. ставятся аналогично. В
настоящее время эксперименты часто проводятся в автоматическом режиме.
Это приводит к большому накоплению экспериментальных данных.
Задачей большой важности является задача разработки автоматизации
методов обработки эксперимента.
8. Таким образом, в проблеме восстановления физических величин
по результатам измерения их проявления и в других случаях возникает
вопрос принципиальной важности: что надо понимать под приближенным
решением уравнения (1), а также следующие математические задачи.
I задача. Нахождение алгоритмов построения приближенных
решений уравнений Ах—и, удовлетворяющих требованиям: Тх)
устойчивости к малым изменениям входных данных; Т2) простой реализуемости
на ЭВМ.
II задача. Изучение оценки уклонения приближенных решений
уравнения Ах=и, построенных с помощью алгоритмов, удовлетворяющих
требованиям Тг) и Г2), от точного (хт). При этом требуется изучить оценки:
а) влияния самого метода; б) влияния неточности входных данных.
III задача. Нахождение в фиксированном классе 9?
оптимальных алгоритмов построения приближенных решений.
IV задача. Изучение оценок уклонения приближенных решений,
полученных с помощью алгоритмов из фиксированного подкласса 9^ С 9?,
от оптимальных на 9? решений (оценка качества неоптимальных
алгоритмов).
V задача. Нахождение априорных условий экономичной
реализации (планирования) экспериментов по производству измерений.
VI задача. Создание систем сплошной автоматической обработки
результатов измерений, управляющих экспериментом получения данных
измерения.
Мы будем называть эти задачи математическими задачами теории
измерений физических величин г.
1 Можно указать и другую классификацию математических задач, относящихся к
проблемам измерения физических величин х, связанных с непосредственно измеряемыми
величинами и соотношением (1).
Поскольку получаемая в непосредственных измерениях величина и содержит слу-
38

§ з
1. Перейдем к рассмотрению 1-й математической задачи теории
измерений. Мы будем вести рассмотрение в рамках разработанного
А. Н. Тихоновым подхода [2] к решению некорректно поставленных
задач, позволяющего строить приближенные решения, устойчивые к малым
изменениям «входных данных», для существенно некорректных задач.
В основе этого подхода лежит понятие регуляризирующего оператора.
Пусть задача (1) является некорректно поставленной (не обладает
свойством устойчивости) и вместо точного значения правой части ит мы
имеем элемент иь, для которого ри(ит, иь)^Ъ. Очевидно, что
приближенное решение хь не может быть определено как точное решение уравнения (1)
с приближенной правой частью и=иь. Элемент хь можно определить лишь
с помощью оператора, зависящего от параметра, значения которого
(параметра) надо брать согласованными с точностью «входных данных» иь.
Эта согласованность должна быть такой, чтобы при приближении правой
части иь уравнения (1) к точному значению ит, т. е. при 8 -> О,
приближенное решение стремилось бы к искомому точному решению хт
уравнения Ах=ит.
Определение. Оператор R (и, а), зависящий от параметра а,
называется регуляризирующим для уравнения (1), если он обладает
свойствами:
1) определен для всякого а > 0 и любого и £ U и непрерывен по и;
2) если Ахт = ит, то существует такое а (8), что для любого е ^> О
найдется 8(e), что если ри(ит, щ)^Ь(е)1 то pF(xm, xj^e, где
*« = Д(ю8а), « = «(8).
Согласно [2], в качестве приближенного решения уравнения (1) надо брать
элемент xa = R (и8, а), полученный с помощью регуляризирующего
оператора Я(щ а), где а = а(8) согласовано с точностью «входных данных»
иь и ри(ит, иа)^8. Это решение называется регуляризированным решением
уравнения (1). Числовой параметр а называется параметром регуляризации.
2. Очевидно, что всякий регуляризирующий оператор вместе с
выбором параметра регуляризации а, согласованного с точностью «входных
данных» 8, «= а (8), определяет устойчивый (к малым изменениям правой
части) метод приближенного построения решений уравнения (1). Если
известно, что ри(иту иь)^о, то, согласно определению регуляризирующего
оператора, можно так выбрать значение параметра регуляризации а = а (8),
что при 8-^0 регуляризированное решение xa(b)=R(ub, a (8)) стремится
(в метрике F) к искомому точному решению, хт. Это и оправдывает
предложение брать в качестве приближенного решения уравнения (1) регуля-
ризованное решение.
Таким образом, задача сводится:
а) к нахождению регуляризирующих операторов;
чайные ошибки, то первая математическая задача состоит в статистической обработке
результатов измерений. Пусть и — результат такой обработки. Вторая задача состоит
в идентификации величин и с физическими характеристиками. Эта задача и сводится
к решению уравнения (1).
39

б) к оценке параметра регуляризации по дополнительной информации
о задаче, например по величине уклонения правой части иь от ее точного
значения. В математической литературе описанный метод построения
приближенных решений называется методом регуляризации.
В [2] дается способ построения регуляризирующих операторов для
уравнения (1). В качестве R (и, а) берется оператор, ставящий в
соответствие правой части и и числу а элемент ха, минимизирующий функционал
М«[х, u] = pb(Ax, u) + aQ[x],
где Q [х] — заранее задаваемый положительный функционал,
называемый стабилизатором задачи (1).
§ 4
1. В настоящем параграфе описываются классы регуляризирующих
операторов для интегральных уравнений типа сверток.
Рассмотрим уравнение типа свертки
x(t)*k(t) = u(t), (1)
в котором k(t) и u(t) — заданные функции, a x(t) — искомая. Полагаем,
что при u(t) = um (t) уравнение (1) имеет единственное решение xm(t),
принадлежащее F, т. е.
Xm(t)*k(t) = Um(t).
Задача заключается в нахождении функции хт (t).
Если правая часть известна с погрешностью, т. е. вместо um(t) имеем
функцию u(t), такую, что
?и(Щп, в)<8,
то вместо нахождения хт можно ставить лишь задачу о нахождении
приближенного решения. В качестве приближенного решения будем брать
регуляризированное решение
ха = Н(щ а), (2)
где R {и, а) — регуляризирующий оператор. В качестве регуляризирую-
щего оператора R (и, а) можно брать, например, оператор, содержащийся
в [2].
2. Мы рассмотрим широкий класс регуляризирующих операторов,
определяемых заданием некоторой функции. Опишем его.
Пусть F и U — некоторые множества функций и А — линейный
непрерывный оператор с областью определения DAZD F. Рассмотрим уравнение
Ах = и, u£U. (3)
Полагаем, что оно имеет единственное решение на F. Применяя к
соотношению (3) линейное интегральное преобразование /, например
преобразование Фурье (Лапласа, Меллина и т. п.), получим
J[Ax]=J[u] = u((o). (4)
Пусть оператор А таков, что из соотношения (4) можно определить
/ [х] = х (ш) в виде
х (со) = ф (и (а)), со). (5)
40

Если Ах есть свертка x(t)*k(t) функций x(t) с некоторой заданной
функцией k(t) (ядром) и при применении преобразования / к этой свертке
справедлива теорема умножения, т. е.
то
7 [х * к] = J [х] • / [к] = х (ш) • к (ш),
♦ (»K«)=fg}. (6)
где к (<■>) = / [А (01-
Формула (6) справедлива в применении, например, к сверткам вида;
со
а) х (t) * к (t) = \ /с (£ — т) х (т) йт,
—со
если пользоваться преобразованием Фурье;
б) x(t)*k(t)=^k(t — x)x(x)dx (k(t) = x(t) = 0, f*<0),
о
если пользоваться односторонним преобразованием Лапласа;
со
в) *(*)**(*)= S*(t)*(x>T'
о
если пользоваться преобразованием Меллина.
3. Будем для определенности рассматривать уравнение вида
со
Ах= J k(t — z)x(z)dz (7)
—со
и применять преобразование Фурье. Здесь
u{t)£L2(—oo, оо), & (*) £ jfoki (—оо, оо),
зДОе^СМ—оо, оо).
Если правая часть уравнения (7) известна приближенно, и (t) — um (t) -f-
-\-v(t), где v (t) — помеха (шум), то
^ '~~"Л (со)- Л (со) "г Л (со)"
Так как ггт (со) = /с (со) ;гт (со), то
а;(а,) = ат(«0) + 1щ.
Эта формула дает нам преобразование Фурье точного решения
уравнения (7) с приближенной правой частью и (t). Казалось бы,
естественным в качестве приближенного решения уравнения (7) с приближенное
41

правой частью и (t) брать функцию, полученную с помощью обратного
преобразования Фурье, т. е. функцию
00
х (t) = J" \ х (со) ехр (—it&t) du> =
—со
СО 00
-=Yk \ «п» И вхР (—im0 *° + зг J r0j ехР (—ш)dio =
—со —со
со
—со
Однако такая функция может не существовать, так как последний
интеграл может быть расходящимся. В самом деле, функции к (со) и и (со)
стремятся к нулю при со-> оо, но это стремление к нулю
«несогласованное», поскольку функция v (t) (а следовательно, и и (со)) носит случайный
характер. Поэтому отношение
у Н
к(ы)
может не иметь обратного преобразования Фурье за счет влияния
высоких частот со случайной функции и (со) [за счет «несогласованности»
стремления к нулю функций 4((о)иу((о) при о)-> оо ]. Но если даже функция
у Н
Л (со)
и имеет обратное преобразование Фурье w (t), то уклонение функции w (t)
от нуля (в метрике С или в L2) может быть сколь угодно большим. Таким
образом, нельзя в качестве приближенного решения уравнения (7) с
приближенной правой частью брать точное решение этого уравнения,
поскольку такого решения может не существовать, а если оно и существует,
то не обладает свойством устойчивости к малым отклонениям правой
части и (t). Причиной неустойчивости такого алгоритма построения
«решений» (и отсутствия их) является влияние высоких частот со
преобразования Фурье v (со) помехи v (t). Поэтому, если мы хотим строить
приближенные решения уравнения (7), устойчивые к малым уклонениям правой
части и (£), с помощью обратного преобразования Фурье, то надо
«подавить» влияние высоких частот оо, умножая, например, функцию
и (со)
Л"(ш)
на соответствующий множитель / (со, а) (зависящий от параметра а
согласно § 3).
4. Возвращаясь к уравнению (1), рассмотрим оператор вида
Rf (и, а) = .Г1 [ф (и (со), со) • / (со, а)],
где J"1 — преобразование, обратное преобразованию «/, а / (со, а) —
некоторая заданная функция, определенная для всех неотрицательных
значений параметра а и любых со, по которым берется обратный оператор /.
Если функцию / (со, а) подчинить соответствующим условиям, то оператор
Rf (uy а) будет регуляризирующим для уравнения (1).
42

В дальнейшем для определенности будем рассматривать уравнение
типа свертки вида (7) и в качестве J брать преобразование Фурье. В этом
случае
со
Rf (и, а) = 1 j f-bJU и (со) ехр (— Ы) Ло. (8)
— 00
Функция / (со, а) должна удовлетворять условиям:
1^) / (со, а) определена в области а ^ 0; —оо<^о)<^оо;
2/)0</К«)<1;
3;)/К0) = 1;
4.) для всякого а^>0, /(со, а) — четная по ши /(со, а) ^ L2 (—оо, оо);
5^) для всякого а^>0 /(со, а)-^0 при cd-> оо;
6.) при а-^0 /(со, а)-> 1, не убывая, причем на всяком отрезке
| со | ^ оуг эта сходимость равномерная;
7.) для всякого со =т= 0 /(со, а)-^0 при а-^оо и эта сходимость
равномерная на всяком отрезке [о^, cd2], 0 <^ odj <^ cd2;
8.) для всякого а^> О ^ **' £L2 (—оо, оо).
Таким образом, заданием функции / (со, а), удовлетворяющей
требованиям lj, — 8^, определяется однопараметрический оператор Rf (и, а)
вида (8).
5. Если уклонение правой части уравнения (7) и (t) оценивать в
метрике L2(—оо, оо), а уклонение решений x(t)—в метрике С и полагать,
что xm(o>)£L1(—оо, оо), то справедлива
Теорема. Если функция / (со, а) удовлетворяет условиям 1^ — 8.,
то определенный с ее помощью оператор RAu, а) вида (8) является
регуляризирующим оператором для уравнения (7).
Для доказательства надо показать, что оператор (8) обладает
свойствами 1) и 2) определения (§ 3).
Оператор Rf (и, а) непрерывен по и. В самом деле, оценим разность
со
1 с f (( fl\
АЛ/ = Rf (Ц1' Я) — Rf ("«» Я) = Jk J ~Щ^ [Ц1 Н ~ "2 И еХР (—Ш) *°«
—оо
Имеем
со
—оо
По свойству 8^ интеграл
со
, ч f /2 (со, a) j
—00
существует, следовательно, ср (а) — конечное число. Уклонение щ (t) от
и2 (t) в метрике L2 равно || их — и2 ||Zn. Если || щ — и2|| ^ 8, то
Отсюда и следует непрерывность оператора Rf (со, а) по и. Для
доказательства свойства 2) определения оценим разность
&x = Rf(u8, a) — xm(t).
43

Имеем
—со —оо
со
X {и8 Н — ит {<*>)} ехр (—Ш) dio + J" \ #ш (<°) {/ (<*>, а) — 1} ехр (—Ш) dm
—со
Следовательно,
со со
Первый интеграл не превосходит 8 \Jy (а). Для второго интеграла имеем
со шг
4 S |«тИ|-|/К«)-1|^ = 4 S |ж,»ИН/(0>,«) —1|*> +
—со —о)г
О)! СО
+ ^ S |*n,H|-|/K«)-lH«o + lj|icni(a))|.|/(a.,a)-l|da)<
—со шг
ш^ —ш1 со
<^S I *m (°>) I ' I / К a) ~ M^ + l; i I *m (°>) I *° + 2£ J l*m И I Ж».
—(Oj —CO Шг
так как 0^/(a>, a)^l. Для любого s>0 найдется такое сох (г), что
—00,(5) СО
2^ J |^шИ|Й0) + 2^ \ |*тИ|&«><у.
— СО <°l(s)
По свойству 6^ функции /(со, а) найдется такое а0(е), что для a<|a0(£)
a>i(s)
будет выполняться неравенство х- \ | #ш (<*>) | • | /(<*), а) — 1 | da) ^ ~ .
-шДе)
Таким образом, по заданному s ^> О найдется такое а0 (г), что для а <^
< а0 (е) будем иметь
Функция «Pi (а) = ^/ср (а) монотонно стремится к бесконечности при а -> CL
Пусть (3(8)— такая функция, монотонно стремящаяся к нулю при 8->0,.
что функция
T(8) = Rs)
также монотонно стремится к нулю при 8 -> 0. Полагаем
где «рг1 (у) — функция, обратная функции срх (а). При такой зависимости
а от 8 имеем
|Д*1<Т(8) + т«-
44

Так как у (§) монотонно стремится к нулю при § -> О, то существует такое
§0 (г), что при § < §0 (е), у (8) < е/3. Для таких § и указанной выше
зависимости а от § будем иметь
\Ax\JRf(ub, а) — жт(*)|<е.
Теорема доказана.
Таким образом, функция ха (t)=Rf (и, а), полученная с помощью
оператора (8), является регуляризированным решением уравнения (7).
Функцию / (со, а) оператора (8), обладающую свойствами lf—8^, будем
называть стабилизирующим множителем.
6. В .работе В. К. Иванова, посвященной решению задачи Коши для
уравнения Лапласа в полосе [3], используется стабилизирующий
множитель вида
/ (со, а) = е~«*ш\
Полагая
/К А) =
1. Ы<1г
о, 14 >х.
где h — величина шага сетки, на которой ищется решение уравнения (7),
получим известный метод А. В. Котельникова построения приближенного
решения уравнения (7).
7. Пусть М (со) — заданная четная неотрицательная и непрерывная
на любом конечном отрезке (кроме, может быть, конечного числа точек)
функция, такая, что а) М (0) J> 0; б) М (со) > 0 для со=^=0; в) для
достаточно больших |со| М (со) ^ с > 0. (В дальнейшем эти свойства функции
М (со) будем называть свойствами М.)
Полагая
/ (со, а) = ■
L (аз) -j- aM (со)
где L (ю)=к (со) к (—со), получим классы регуляризирующих операторов
для уравнения (7). Каждый такой класс определяется заданием функции
М (со).
Регуляризированное решение уравнения (7), определяемое по формуле
*.W=к ]ьпТ«мп ехР(-^)*- (9)
—00
минимизирует функционал вида
Ма [х, и] = \\Ах — и |||2 + а2 [х]
со стабилизатором
Здесь
2[з] = f М(со)|я(со)|2йсо. (10)
—со
00
Л# = \ &(£— x)x(z)dz.
45

p
Полагая М (со) = 2j tf^2'*» гДе % — заданные неотрицательные числа, по
формуле (10) получим тихоновские стабилизаторы порядка р [2].
Функция М (со) может иметь любой порядок роста при со -> оо.
Стабилизатор (10) можно также записать в виде
Q[x]= J J m(t — z)x(t)x(x)dtdz,
где m (t) — обратное Фурье-преобразование функции М (со). Функция
т (t) является обобщенной функцией.
Очевидно, по формуле (10) можно получить множество других
стабилизаторов.
8. Смысл рассмотрения различных - семейств классов регуляризирую-
щих операторов состоит в том, чтобы в каждой конкретной задаче (классе
задач) выбрать наилучший оператор. Например, такой, который
минимизирует уклонение (в заранее определенном смысле) регуляризированного
решения ха (t) от искомого точного хт (i), или такой, который удобнее
при его машинной реализации. Пусть Ф (хг, х2) есть заданный
неотрицательный функционал, определенный на функциях xv х2 из множества
регуляризированных решений ха (i) уравнения (7) и точного решения хт (t)+
Фиксируя функционал Ф (хг, х2), можно сформулировать следующие
задачи.
Задача 1. При фиксированной функции / (ш, а), обладающей
свойствами 1.—8., найти такое значение а0 параметра регуляризации аг
при котором
Ф (х«о, хт) = inf Ф (ха, хт).
а
Пусть Ff = {/ (со, а)} — заданное семейство функций / (со, а), обладающих
свойствами 1 . — 8-.
Задача 2. В семействе функций Ff найти такую функцию /0(со, а)
и такое значение параметра регуляризации а = аоц, на которых Ф (хи, хт)
достигает минимума, т. е.
Ф «ш> хт) = inf Ф (Ха, Хт).
Здесь лг2оИ = Я/0(и, аои)- Регуляризирующий оператор RfQ{u, аоц),
отвечающий функции /0 (со, аоп) и значению параметра регуляризации а = аоп,
будем называть оптимальным на семействе F*, а аоп — оптимальным
значением параметра регуляризации.
Регуляризированное решение уравнения (7), полученное с помощью
оптимального регуляризирующего оператора, будем называть
оптимальным регуляризированным решением.
Иногда не представляется возможным найти в семействе Ff
оптимальный стабилизирующий множитель /0 (ш, аоп) и отвечающий ему
оптимальный регуляризирующий оператор. Но в семействе Ff можно указать
«близкий» (в заранее определенном смысле) к оптимальному
стабилизирующий множитель. Поэтому оправдана постановка задачи.
46

Задача 3. Оценить Ф (s«u fi; я«2, л), если р^(/1? /2)< 8. Здесь ж«1|Л =
= Rfl(u, ax), xa2,f2 = Rf2(u, а2) PjP(,) — метрика в F/e
Таким образом, в этом параграфе решается 1-я математическая
задача теории измерений для интегральных уравнений первого рода типа
свертки.
§ 5
1. Обратимся снова к уравнению (7). Пусть и (t) = um (t)+v (t), где
и (t) — помеха (шум); v (t) есть случайная функция. Полагаем, что она
не коррелирована с искомым решением хт (t) и ее математическое
ожидание равно нулю, v (t) = 0. Метрика, в которой оценивается уклонение
PF(xa, xm), выбирается в соответствии с характером информации о шуме,
которой мы располагаем.
Регуляризированное решение можно записать в виде
со со
— CO —CO
Следовательно,
** (*) - *m (*) = Ar (*> «) + Аш (t, «), (H>
где
00 ( )
М*.«)=^ S {/K«)-1}^feXp(-fcrf)Ao =
— CO
CO
= 2^. \ {/K a)~ 1}жт(о))ехр(— M)du, (12)
— CO
00
Дш (*, «) = ^ J ¥^ y (u)) exp {~ш) d(0- (13)
— CO
Ar (£, a) есть вклад в xa {t)—xm (t) процедуры регуляризации, а Дш (t, a) —
вклад шума в правой части уравнения (7).
В § 4 было показано, что Дг (t, а) стремится к нулю-при a -> О, причем
сходимость равномерная относительно t.
Поскольку v (t) — случайная функция, то Дш (t, а) также случайная
функция и ее математическое ожидание Дш(£, а) = 0.
2. В дальнейшем будем полагать, что v (t) есть реализация
стационарного случайного процесса со спектральной плотностью S (со). В этих
предположениях дисперсия случайной функции Дш (£, а) равна
со
Д|Л*Г=) = 0» = ^ \ t£$-S («о) Ао. (14>
—со
Как известно, на вещественной оси S (со) — четная неотрицательная
функция и S (со) -> 0 при со -> оо. Очевидно, а2 (а) растет при a -> 0. Если
фвЦ. (-«о, оо),
47

то при а-» 0 а2 (а) стремится, возрастая, к конечному пределу а2(0),
если же
то а2(а)—> оо при а—>0. При а—> оо а2(а)—>0. Пусть
Д*(а) = 8ирД*(*, а). (15)
t
Тогда
У, (а) = sup К (<) - xm (t)f = Д2 (а) + а* (а). (16)
При а —>• О А? (а) стремится к нулю, а а2 (а) — монотонно возрастает.
Следовательно, при некотором значении а~ а0 (в окрестности а=0) Тf (а)
достигает наименьшего значения. Число а0 будем называть (С, /) —
оптимальным значением параметра регуляризации. Регуляризированное
решение, полученное при а~ а0, будет наилучшим [в смысле min* Tf (a)]
в классе регуляризированных решений, отвечающих фиксированной
функции / (со, а). Возникает задача асимптотической (при а -> 0) оценки
величин А? (а) и с2 (а).
§ е
1. Рассмотрим некоторый класс стабилизирующих множителей
/(со, а). Например, множители, отвечающие функциям М(со),
являющимся четными многочленами. Простейшие из них определяются
функциями Af ((о)= со2/\ Предположим, что упомянутые в § 5 асимптотические
оценки величин Д£ (а) и а2 (а) (при а -> 0) получены в случае этих
простейших множителей.
Возникает вопрос: как изменятся эти оценки, если пользоваться
множителями, отвечающими произвольным четным многочленам М(со)?
Определение. Стабилизирующие множители fx (со, ах) и
/2 (^ а2) будем называть асимптотически е-близкими, если существует
число а0 (г), такое, что для ах и а2, меньших а0 (s), и таких, что
-г-1
а2
< ао (в)>
выполняется неравенство
l/l К gj) /2 К д2) II <--в
| А: (со) k (со) ||i2 ^
Если брать
t / ч L (со)
' ^ а^~~ /,(со)+аМ(со)'
то стабилизирующие множители
х , \ L (со) г / v Z (со)
А К ai) = т. ,„л хЛ. ^ и А (">• «г) =- —
' L (ш) + aiMx (ю) J2V ' 2/ 1(ш)+а2М2{ш)'
определяемые функциями
Л/х (ю) = со81" (17)
Л/2 (со) = со2* + Яг^-1 +...+?,, (18)
48

где qn — неотрицательные числа, являются асимптотически е-близкими
при любом s > 0.
2. Оценим разность между регуляризированными решениями
уравнения (7), полученными с помощью асимптотически е-близких
стабилизирующих множителей Д (со, ах) и /2 (со, а2).
Очевидно,
"I-H*)U<ejB(*)llv
/i (<■>. °i) /2 (<■>. аг)
к (и>) к (со)
если а, а2,
3~1
меньше а0 (е).
Так как стабилизирующие множители, определяемые функциями (17)
и (18), являются асимптотически е-близкими при любом е > 0, то при
пользовании множителями, определяемыми функциями (18), достаточно
получить асимптотические оценки (при а -> 0) уклонений А? (а) и а2 (а)
лишь для простейших множителей, определяемых функциями М1((о) =
= ы2р. Такие оценки для некоторых типов уравнений (7) даны в [4—5].
3. Рассмотренный в § 4—6 способ построения регуляризирующих
алгоритмов с помощью преобразования Фурье обладает рядом преимуществ
по сравнению с решением интегро-дифференциальных уравнений Эйлера
для функционала Ма[х, и]. Основное преимущество состоит в том, что
таким образом можно получить решение на сетке практически с любым
числом точек. Выбор различных функций М (со) с весьма незначительными
изменениями программы позволяет получать решения, близкие к
оптимальным. Этот способ применим и к многомерным уравнениям.
Заметим, что если функции х (t), к (t) и и (t) — финитные с
носителями, принадлежащими отрезку [0, Z], то описанный способ
регуляризации сводится к регуляризации суммирования рядов Фурье [6, 7].
1. При пользовании методом регуляризации для решения некорректно
поставленных задач вида Ах=и, как указывалось в § 3, значения параметра
регуляризации а надо брать согласованными с точностью 8 «входных
данных» и(ри(и9 ит)^Ь\ Параметр а должен быть такой функцией 8,
а = а(8), что при 8-^0 уклонение р^(#а(8), хт) регуляризированного
решения ха(Ь) от искомого тачного хт должно стре*читься к нулю при 8-^0.
Одним из способов нахождения а (8) является метод невязки. Он
состоит в том, что а (8) определяется из условия равенства невязки
ри (Аха, и) числу 8 — неточности правой части щ т. е. из условия
Ри(Ах«> и) = 8.
Обоснование этого способа следует из монотонности возрастания функции
49

с ростом а и из очевидного равенства
intpu(Axa9 и) = 0.
а
Ниже приводится доказательство монотонности функции Ф (а) для
уравнения (7) и стабилизирующих множителей вида
Доказательство в более общих предположениях содержится в [8].
2. Для всякого регуляризированного решения находим
00 00
Ф(о)= j (Axa — и)2 dt = j | к (со) ха (со) — и (со) |**d
—00 —00
в предположении, что функция М (со) фиксирована. Очевидно,
00 00 00
л/ v Р I L (со) И (со) , ч 12 0 Р <х2М2 (со) I в (со) |2 , ^0f , , \ ,о -,
Ф (а)= \ г / ч .—^гт-т—и (со) а<*> = 2 \ /г / ч ■ я// Л^С^ I и(со) 2dco,
v ' J |L (со)-f-ccM (со) v '\ J (L (со) + aM (со)}2 ^ J • V /| »
-оо О О
оо
4 Р oM2L_|iiJ2dco
о
Таким образом, Ф (а) — монотонно возрастающая функция, не
превосходящая || и |||. Следовательно, существует единственное число а, для которого
Ф(а) равна 82, т. е. Ф(а) = 82. При этом должно выполняться условие
82<1И*
В противном случае уравнение Ф (а) = 82 не имеет решения.
Практически а можно находить (приближенно) следующим образом.
Задается последовательность чисел
а* = ад* К>°)>
где 0<Сд<^1, к — целые положительные числа. Для каждого числа сик
находим регуляризированное решение xajc (t) и по нему вычисляем невязку
Ф (afc). Получим убывающую последовательность чисел {Ф (afc)}. Из этих
чисел выбираем ближайшее к заданному числу §2 [неточность задания правой
части u(t)]. Пусть это будет Ф(ак1). Тогда в качестве приближенного
значения а берем akl.
3. Очевидно, Ф(а) зависит и от выбора функции Л/(со), т. е.
Ф(а) = Фм(а).
При малых значениях а основной вклад в Фм (а) дают большие частоты
(|Ч>1). Поэтому, если при |со|>1 М1(а>)'^М2(а>), то
Фм, (а) > Фм% (а).
В частности, если брать М(со) = со2/?, то & = <х(р) и при рг^>р2
фл(«)>фл(«)-
50

Следовательно, а (р^) < а (р2), т. е. с увеличением порядка регуляризации р а
убывает. Для параметра регуляризации [в применении к уравнению (7)]
справедлива оценка сверху [9]
а<а=Ти\к-ть ' *=l*Wh. т>1.
Поэтому сс0 можно брать равным а. Можно пользоваться и другими
способами определения параметра регуляризации и использовать
дополнительную информацию об искомом решении.
ЛИТЕРАТУРА
1. П. С. Новиков. Докл. АН СССР, 18, № 3, 1938.
2. А. Н. Тихонов. Докл. АН СССР, 151, № 3; 153, № 1, 1963.
3. В. К. Иванов. Дифференциальные уравнения, 1, № 1, 1965.
4. В. Я. Арсенин. В. В. Иванов. ЖВМ и МФ, 8, №2, №3, 1968.
5. В. Я. Арсенин, В. В. Иванов. Докл. АН СССР, 181, № 2, 1968.
6. А. Н. Тихонов. Докл. АН СССР, 156, № 1, 1964.
7. В. Я. Арсенин. Докл. АН СССР, 183, № 2, 1968.
8. В. А. Морозов. Докл. АН СССР, 175, № 6, 1967.
9.-4. Г. Я гола. Диссертация. МГУ, 1971.

Я. М. БАРЗДИНЬ
О ЧАСТОТНОМ РЕШЕНИИ ПРОБЛЕМЫ ВХОЖДЕНИЯ
В РЕКУРСИВНО ПЕРЕЧИСЛИМОЕ МНОЖЕСТВО1
Как известно, многие алгоритмически неразрешимые массовые
проблемы могут быть сформулированы как проблемы вхождения в рекурсивно
перечислимое (р. п.) множество. Поэтому исследование вопроса о
частотном (приближенном) решении проблемы вхождения в р. п. множество
представляет особый интерес. Мы здесь не будем касаться истории
«частотных» вычислений, так как она достаточно подробно отражена в статье
Б. А. Трахтенброта [1], публикуемой в настоящем сборнике. Отметим
только, что в [2] было показано, что в некотором смысле (см. ниже)
проблема вхождения в произвольное р. п. множество может быть частотно
решена.
Напомним соответствующие определения. Мы говорим, что функция
Р (х) решает проблему вхождения в множество М с частотой 1—е для
бесконечно многих (для всех) начальных кусков, если для бесконечно
многих (для всех) натуральных п
п ^
где [М, Р, п] — число тех натуральных х, не превышающих п, при
которых Р (х) = хм (х) {Хм — характеристическая функция My
Нетрудно построить р. п. множество М такое, что не возможна
общерекурсивная функция Р (х), которая решает проблему вхождения в М
с частотой 1 — е для всех начальных кусков. Поэтому приходится
ограничиться рассмотрением разрешимости проблемы вхождения в р. п.
множество с частотой 1—е лишь для бесконечно многих начальных кусков.
В [2] была доказана теорема2:
Для любого р. п. множества М и любого е > 0 существует
общерекурсивная функция Р (х), которая решает проблему вхождения в М с
частотой 1—е для бесконечно многих начальных кусков.
Заметим, что в упомянутой теореме речь идет только о существовании
функции Р (х). В настоящей статье мы будем исследовать вопрос о том,
можно ли по номеру р. п. множества М эффективно построить клиниев-
1 Часть из приведенных ниже результатов была сформулирована без доказательств
в [2].
2 Фактически там доказано более сильное утверждение, заключающееся в том, что
эффективно может быть указано бесконечно много начальных кусков, для которых
имеет место требуемое свойство.
52

ский номер * общерекурсивной функции Р (ж), решающей проблему
вхождения в М с частотой 1—е для бесконечно многих начальных кусков.
Точнее, мы будем изучать следующие две массовые проблемы.
1. Пусть зафиксированы некоторое е0, 0 <^г0 <^1, и некоторая
нумерация т р. п. множеств (тЛ — множество с номером п). Требуется для
любого натурального п найти клиниевский номер общерекурсивной функции,
решающей проблему вхождения втйс частотой 1—е0 для бесконечно многих
начальных кусков. Такую массовую проблему будем называть метапроб-
ЛвМОй оЖг0,х-
2. Пусть зафиксировано некоторое р. п. множество М. ^Требуется для
любого рационального е > 0 найти клиниевский номер общерекурсивной
функции, решающей проблему вхождения в М с частотой 1—е для
бесконечно многих начальных кусков. Получающуюся массовую проблему
будем называть метапроблемой о/^м-
Теорема 1. Для любого е0, 0 < е0 <С 1, и любой главной
нумерации т рекурсивно перечислимых множеств метапроблема оМг0, т
неразрешима.
Доказательство см. в [2].
В свете отрицательного результата теоремы 1 возникает следующий
вопрос: быть может, с частотой 1—е мы все-таки сможем решить проблему
с^е0, т? Мы говорим, что метапроблема оМг0, z разрешима с частотой 1 —е
для бесконечно многих начальных кусков, если существует
общерекурсивная функция F (х), такая, что для бесконечно многих натуральных п
\оМг F, п]
выполняется неравенство -— ^ 1 — е, где [оЖг0, т, F, п] — число
тех натуральных х, не превышающих п, для ктоторых F (х) есть
клиниевский номер общерекурсивной функции, решающей проблему вхождения
в множество хх с частотой 1—е0 для бесконечно многих начальных кусков.
Следующая теорема дает положительный ответ на поставленный вопрос.
Теорема 2. Каковы бы ни были е0, 0 < е0 <С 1, и вычислимая
нумерация т рекурсивно перечислимых множеств, для любого е > 0
метапроблема оМг0,1 разрешима с частотой 1 — е для бесконечно многих
начальных кусков.
Сначала доказательство теоремы 2 сведем к доказательству одной
леммы. Условимся под разбиением натурального ряда понимать
возрастающую последовательность натуральных чисел nv гг2, . . ., п^ . . .
Пусть Дг. — множество натуральных чисел, лежащих в промежутке
lni9 ni+ih Щ = 0, г = 0, 1, 2, ... Обозначим через \оМ%^^ F, A J (через
[Мео,т, F, Aj) число всех тех гг£Ар для которых F (п) является (не
является) клиниевским номером функции, решающим проблему вхождения
в множество хп с частотой 1—е0 для бесконечно многих начальных кусков.
Будем говорить, что метапроблема оЖг0, т разрешима с частотой 1 — е
при разбиении nv гг2, . . ., п., . . ., если существует общерекурсивная
функция F (п), такая, что для бесконечно многих натуральных i
1 Вместо клиниевской нумерации [3] можно было брать любую другую главную
нумерацию [4] частично рекурсивных функций.
53

Разбиение nv п2, . . ., ni . . . назовем эффективным, если существует
общерекурсивная функция ср (i), такая, что w.= (p(i).
Лемма. Каковы бы ни были е0, 0 < е0 ^ 1, и вычислимая
нумерация z р. п. множеств, для любого е > О и любого эффективного разбиения
пг, п2, . . ., тгр ... метапроблема оМе0,х разрешима с частотой 1—©.
Легко убедиться, что из леммы вытекает теорема 2. Для этого
достаточно рассмотреть эффективное разбиение nv п2, . . ., п^ . . ., при
котором ni+v и тем самым | А. |, значительно больше nif например, ni+l такое,
что \М>~п, Тогда из Е%^ <* вытекает МЧ,* *»*«];>,
>1—е.
Доказательство леммы. Пусть тг1? п2,. . ., тг^,.
..—произвольное эффективное разбиение натурального ряда. В дальнейшем, говоря,
что функция F (п) решается оМ*й, т с частотой 1 — е, мы будем иметь
в виду, что функция F (п) решает Д/во, т с частотой 1 — s именно при
данном разбиении.
Для построения искомой функции F (п) определим некоторую
конечную систему констант. Положим
■*,(Л = {*/*€*,&*</} и дяу)=ЬШ.
Обозначим ~ через е^. Рассмотрим отрезок [0, 1], разбитый на
интервалы длины е'0:
1
'-Ш-
о г, (Я 1 '
При фиксированном / каждому тг соответствует определенная точка
gn(j) отрезка [0, 1]. Положим
з'(/) = #(/), .... 4(Я>
где Zpij)— число тех n£A.f у которых Qn(j)^ps'0, p = 1, 2...Л.
Фиксируем «достаточно маленькое» 8, а именно, 8 <^ -т-т Определим
K!(j) = (ki(j), ..., &•(/)),
где к* (j) — наибольшее натуральное число к, такое, что ^^гт~г. Таким
образом, если мы знаем, К1 (/), то с точностью до 8 | Af | мы можем
определить координаты вектора Z* (/). В то же время координаты вектора
К* (/) в отличие от координат вектора Z* (/) ограничены: легко
видеть, что 4;(/)<у.
Упорядочиваем векторы
К*ф, 1 = 1,2,3,..., / = 1,2,3,...
следующим образом: говорим, что вектор K — (kv . . .,кл) больше вектора
К' = (к[, . . .,&!), если существует такое р, р^-4, что &я+1 = Д£+1> &р+2 =
:=::= «^р+2? • • •» #4 == #4> a кр ^> /Ср.
54

Обозначим через К** наибольший вектор К, такой, что существует
еще бесконечно много натуральных /, при которых №(]) = !£, а через
К" — наибольший вектор Kf, такой, что существует еще бесконечно
много натуральных £, при которых Ki* = Kf. Множество всех тех i, при
которых К**=К*, обозначим через /. Вектор К* и есть та система
констант, используя которую мы будем строить искомую функцию F (п).
Обозначим через Рп (х) одноместную функцию, которая получается
из двухместной функции Р (п, х), когда п фиксировано.
Используя вектор К*, мы сейчас построим частично рекурсивную
функцию Р (п, х), такую, что при любом i £ J доля тех п из Д;, для
которых функция Рп (х) решает проблему вхождения в хп для бесконечно
многих начальных кусков с частотой 1—2s'0, не меньше чем 1—е. Заметим,
что отсюда непосредственно будет следовать справедливость леммы.
В самом деле, подставляя е0/2 вместо е'0 и учитывая, что множество /
бесконечное, получаем, что существует частично рекурсивная функция
Р' (п, х), такая, что для бесконечно многих i доля тех п £ Av для которых
функция Р'п (х) решает проблему вхождения в %п для бесконечно многих
начальных кусков с частотой 1—е0, не менее чем 1—е. Далее, так как
Р' (п, х) — частично рекурсивная функция и клиниевская нумерация
является главной, то существует общерекурсивная функция F (п),
такая, что для любого п клиниевский номер функции Р'п (х) есть F (п)щ
Это означает, что функция F (п) решает метапроблему оМ^ т с частотой
1-е.
Перед тем, как приступить к построению функции Р (п, х), введем
некоторые обозначения: / (t) — общерекурсивная функция, которая
перечисляет множество пар {(п, х)/х(<\};
т.(/, *) = {*/a:</&av(v<*&/(v) = (n> x))};
Очевидно, тя(/, £)£тя(/)> и Для любых п и / существует t, такое, что
тп(/, £) = тя(/). Кроме того, для любых щ j и t множество тя(/, t) можно
построить эффективно. Далее, легко убедиться, что если при некотром t
qn(h t) и qn(t) принадлежат одному и тому же s^-интервалу, то
К(/)\^(/» 01 ^^
] <
Последовательно, если в случае, когда qn(j, t) и qn(j) принадлежат одному
и тому же е0-интервалу, мы определим
то будет выполняться неравенство
] > 1 ~ ео-
Отсюда уже видно, что для построения искомой функции Р (п, х)
достаточно уметь «обнаруживать» такие t, при которых qn(U 0 и ?»(/)
принадлежат одному и тому же е^-интервалу. Для этой цели мы будем исполь-
55

зовать вектор К*. Но предварительно по аналогии с Z* (/) и К* (/) введем
векторы
z'v, t)=(z*u, о,...,eia. *))
к*и, *) = №(/> 0. • • м#(/. 0);
они определяются в точности так же, как Z* (/) и К* (/), только вместо Qn(f)
надо взять ди(/, £). Очевидно, К* (/, ty^K* (j)^K*. В то же время для
любого t £ / существует бесконечная возрастающая последовательность
натуральных чисел
Jv /2» • • •» /«» • • •»
такая, что для каждого /в существует t8, при котором Z* (/,, t8) = К*.
Пусть f{i)— наибольшее натуральное /, при котором еще К1 (/)> К*; если
таких / вообще нет, то положим /(° =0. Нетрудно убедиться в
справедливости следующего утверждения А: если }8 > /(*} и К1 (/в, £) = К*, то доля
тех тг из-А;, для которых ди(/в, 0 и qn(j8) не принадлежат одному и
тому же е^-интервалу, меньше, чем §Л<е.
Это означает, что если в данном случае мы определим
Pin, *) = XW„*)(*)>
то при данном ]9 будет иметь место следующее свойство: доля тех п из At.t
для которых выполняется неравенство
h > °'
будет больше, чем 1—е. Однако функция Р (п, х) еще не является
искомой. Для этого требуется, чтобы упомянутое свойство имело место при
любом i £ J для бесконечно многих /в. Опишем теперь алгоритм
построения такой функции Р (п, х).
Пусть п — произвольное натуральное число и х—0, 1,2,... Сначала
определяем t, при котором п £ Д^ (так как разбиение эффективное, то
это всегда можно эффективно сделать).
Далее, алгоритм построения Р (тг, х), х=0, 1, .... следующий.
Шаг 1. Начинаем перечислять: / (0), / (1), . . ., / (t), ... и каждый раз
(т. е. после каждого t) проверяем (просматривая /=1, 2, . . . t), не
существует ли такое /, что Кг (/, t) = K*. Как только при некоторых ]г и tx
указанное равенство выполняется, так сразу определяем Р (п, х) =
= Xw». <i> Ф для *' °<*</i-
Шаг 5, 5 = 2, 3, . .. Продолжаем перечислять: / (t8 + 1), / (t8 + 2), ...
...,/(£), ... и каждый раз (т. е. после каждого t) проверяем (просматри-
вая j^t), не существует ли такое /, что /^ — / г и Кг{], t)~K*. Как
только при некоторых j8 и t8 указанные соотношения выполняются, так
сразу определяем Р (п, х) = x^nUat h) (x) для х9 /,_i <></,.
Таким образом, нами определена частично рекурсивная функция
Р (тг, х). Покажем, что она искомая.
Пусть i (< /. В этом случае каждый шаг описанного алгоритма когда-
нибудь заканчивается, и, следовательно, описанный алгоритм дает
бесконечную последовательность пар
iiv *i). (/*2> Q, ..., (/.» д, ...
56

Отсюда, используя утверждение А, получаем следующее: пусть D. —
множество всех тех п f Д„ для каждого из которых существует бесконечная
подпоследовательность
последовательности (]\, £2), . . ., (/e, t8), . . ., такая, что для любого sr
Яп (Jn > ln8) = ?' и ff * (/*,) принадлежат одному и тому же е^-интер-
8 *п8
валу; тогда
|д,.| ->1 s-
Отсюда легко следует; что если n(*Dt, то для любого /я
1Тя> "я> ^я,1 ■
[>l_2e; = i_
еЛ
Таким образом, для любого nfD^ где г £ /, функция Рп(х) решает
проблему вхождения в тя с частотой 1 —е0 для бесконечно многих
начальных кусков. Учитывая еще то, что для любого if J имеет места
\Dt |/| Д; \^> 1—е, получаем, что построенная выше частично рекурсивная
функция Р (п, х) является искомой.
Лемма доказана.
Рассмотрим теперь метапроблему olfж.
Теорема 3. Существует р. п. множество М0, такое, что offж
неразрешимо.
Доказательство. Наше доказательство неразрешимости
будет несколько отличаться от традиционных доказательств неразрешимости.
А именно, мы покажем, что сложность проблемы off ж стремится к
бесконечности, когда е->0. А это означает, что <JfM неразрешимо.
Сначала уточним необходимые понятия. Пусть а (р, х) — двухместная
частично рекурсивная функция.
Через I (р) обозначим длину двоичной записи числа р. Под
сложностью Ка (/) функции / (х) относительно а (р, х) будем понимать величину
min I (р), где min берется по всемр, таким, что а (р, x)=f (x) для любого х\
если такое р не существует, то положим Ka(f) = co. Аналогично можно
ввести понятие сложности Къ (g) двухместной функции g (n, х)
относительно трехместной функции b (р, п, х): Къ (g)=min I (р), где min берется
по всем р, таким, что Ъ (р, п, x)=g (n, х). Как известно [5], существует
частично рекурсивная функция А (р, х) [соответственно, В (р, п, х)],
называемая оптимальной, что для любой другой частично рекурсивной
функции а(р, х) [функции b(p, n, x)] KA(f)^.Ka(f) -\- С [соответственно,.
&в (g) ^ Къ (g) + С], где С не зависит от /. Положим К {olf ж, е) = min KA(P\
где min берется по всем функциям Р (#), которые решают проблему
вхождения в М с частотой 1 — е для бесконечно многих начальных кусков.
[А(р, х) — оптимальная функция]. K(o/fMi e) характеризует сложность
соответствующей единичной задачи из offM- Под Ка(М, п), называемой
сложностью тг-куска множества М относительно а (р, х), будем понимать
min Ка (ф), где min берется по всем функциям ф (х), таким, что для любого
57

Из доказательства теоремы 2.5 работы [6] вытекает следующий факт:
существует р. п. множество М0, такое, что какова бы ни была
общерекурсивная функция а(р, х), для любого натурального п Ка(М, п)^—^,
где к — номер функции а (р, х) при заранее фиксированной вычислимой
нумерации, например при нумерации, порожденной оптимальной
функцией В (р, п, х). Следовательно,
22 +
С другой стороны, нетрудно убедиться в справедливости следующего
утверждения: для любой общерекурсивной функции Рш (х), которая
решает проблему вхождения в М с частотой 1—е для бесконечно многих
начальных кусков, существует общерекурсивная функция а (р, х)
с Кв (а) ^ К а (Р6) + с, такая, что для бесконечно многих натуральных п
Ка{М, п)^п • а(е), где а(е)->0 при е->0. (**)
Сопоставляя (*) и (**), получаем, что для любой функции Ре (х),
которая решает проблему вхождения в М0 с частотой 1—е для бесконечно
многих начальных кусков, выполняется неравенство
п • а (е) J>
222^(Ре)^+1+2
Отсюда КА(Ре)-+ со при s-^О. Следовательно, K(o/fM, s)-> oo при
е-> 0.
Теорема доказана.
Из соотношения <^KUfM, е)-> оо при е->СГ^ вытекает также, что
при любой естественной постановке вопроса о частотном решении
проблемы offж ответ на него будет отрицательным.
В заключение отметим, что, пользуясь более точными оценками
величин, встречающихся в доказательстве теоремы 3, может быть доказана
Теорема 3!. Для любого р. п. множества М и е->0
К(о4Гм, e)<log, 1 + 0(1).
Существует р. п. множество М, такое, что при в -> О
К{о^ю e)>log2l-o(log2l).
ЛИТЕРАТУРА
1. Б. А. Трахтенброт. Частотные вычисления. См. настоящий сб., стр. 221.
2. Я. М. Барздинъ. О частотном решении алгоритмически неразрешимых массовых
проблем. Докл. АН СССР, 191, № 5, 1970.
3. Л. Л*. Мальцев. Алгоритмы и рекурсивные функции. «Наука», 1965.
4. В. А. Успенский. Лекции о вычислимых функциях. Физматгиз, 1960.
5. А. Н. Колмогоров. Три подхода к определению понятия количество информации.
Т. 1, № 1, 1965.
6. А. К. Звонкий, Л. А. Левин. Сложность конечных объектов и обоснование понятий
информации и случайности с помощью теории алгоритмов. Успехи матем. наук,
25, в. 6, 1970.

Н. В. БЕЛЯКИН
ОБОБЩЕННЫЕ ВЫЧИСЛЕНИЯ
В этой статье строится рекурсивная иерархия, такая, что
описываемый ею класс множеств образует модель одного фрагмента арифметики
второй ступени. В основе построения лежат методы, развитые в [1],
которые в определенном смысле являются конструктивными. Стимулом для
этих исследований в значительной мере послужили вопросы, касающиеся
оснований анализа, которые были предложены автору П. С. Новиковым
в 1964 г. Первые три раздела данной статьи содержат краткий обзор нашей
работы [1]. В них даются некоторые понятия, необходимые для того,
чтобы подойти к постановке задачи, решению которой посвящены
остальные два раздела.
1. Машины и оракулы
Машины Тьюринга хорошо известны в теории алгоритмов; описание
формальных деталей их определения здесь несущественно. Достаточно
представлять себе вычислительные устройства, организованные наподобие
обычных цифровых машин, но при этом обладающие неограниченной
памятью. (Речь идет, конечно, о математических объектах, а не об их
технической реализации.)
Мы будем рассматривать так называемые машины с оракулами, т. е.
такие, которые в ходе вычисления могут запрашивать дополнительную
информацию из внешней среды. В соответствие с этим условимся, что
каждая машина имеет конечное число выходов, на которые она может подавать
свои вопросы (закодированные натуральными числами). Предполагается,
что перед началом работы машины ее выходы соединены с некоторыми
датчиками ответов, которые и будут называться оракулами.
Будем считать, что каждый оракул есть частичная функция (вообще
говоря, невычислимая) от одного натурального аргумента с
натуральными значениями и что оракул F на вопрос х дает ответ F (х), если F (х)
определено. Если же F (х) не определено, то дальнейшее поведение
машины, задавшей вопрос х, тоже не определено.
Полученные от оракулов ответы поступают в машину и используются
в дальнейших вычислениях. Поведение машины описывается ее
программой, которая указывает, что нужно делать при всевозможных
обстоятельствах, могущих возникнуть во время ее работы. В частности, программа
определяет, в каких ситуациях надлежит задать вопрос, каков этот
вопрос и на какой выход его надо послать. Сам же процесс работы машины,
59

т. е. фактически совершаемая ею последовательность операций, зависит
от оракулов, с которыми соединена машина.
Программа представляет собой конечную запись на подходящем
формальном языке. Предполагается, что зафиксирована эффективная
нумерация программ (так называемая гёделевская нумерация). В дальнейшем
мы будем отождествлять машины с номерами их программ.
Предполагается также, что выходы каждой машины занумерованы попарно
различными натуральными числами. Через J (т) обозначим множество
номеров выходов машины т.
Пусть в машину с номером т введено в качестве начальной
информации число х. Такой объект мы будем называть инициальной машиной»
Номер пары (т, #> в стандартной нумерации пар натуральных чисед
будем называть номером этой инициальной машины.
2. Обобщенная вычислимость
Пусть v есть какая-нибудь однозначная нумерация некоторого
начального отрезка счетных ординалов. Обозначим через |v| длину этого
отрезка и через ^ЙГ [ v] — множество натуральных чисел, служащих
номерами в нумерации v. Определим семейство оракулов (5(V) = {^}iejrM
следующим образом.
Говоря приблизительно, каждый оракул F.£(${y') решает (в некотором
смысле) проблему остановки для машин, работающих с самим оракулом Fi
и с оракулами FjQ^v\ для которых v/<[v&. Точнее, пусть z = (z0, z±y
есть инициальная машина, такая, что
v/e/(*0)M<vi]. a)
Соединим каждый ее выход / с оракулом F-fcty**. Тогда должны
выполняться условия
1) если z остановится через конечное число шагов, то F. (z)=0;
2) если z работает бесконечно долго, то F. (z)=l;
3) если работа z обрывается из-за отсутствия ответа на некотором
выходе /, где v/ < vi, то Fi {z) = 2;
4) если z не получает ответа от самого оракула Fv то F. (z) не
определено.
Кроме того, если z не удовлетворяет условию (1), то Fi (z) не
определено, причем Fi обладает наименьшей областью определения, совместимой
с перечисленными требованиями. [Способ построения такого семейства
оракулов описан в (1)].
Пусть X<|v|. Функцию а (х) будем называть (v, Х)-вычислимой,
если она вычислима на некоторой машине т, соединенной с набором
оракулов {Fj}jeJ(m) из семейства <5(V\ причем V/£ / (m)[vj ^Х]. Аналогично
определяются понятия (v, Х)-разрешимого множества, (v, Х)-вычислимого
дерева (т. е. функции, заданной на числовых кортежах) и т. п.
Множество (v, Х)-вычислимых функций расширяется при
возрастании X. Скорость этого расширения при переходе от X к Х+1 довольно
точно характеризуется следующим фактом, установленным в (1). Если
множество В (v, Х)-разрешимо, то множество Тв обозначений ординалов,
60

конструктивных относительно J5, (v, Х-}-1)-разрешимо. Этот факт в
несколько более наглядной форме можно выразить так. Если в (v, Х)-вы-
числимом дереве обрываются все (v, Х+1)-вычислимые цепи, то в нем
обрываются вообще все цепи.
Широта класса (v, Х)-вычислимых функций зависит, конечно, от v.
Однако если две нумерации vly v2 рекурсивно изоморфны, то можно
показать, что всякая (vx, Х)-вычислимая функция является также (v2, X)-
вычислимой и обратно (X < | vx| =^| v2|). Отсюда, в частности, следует,
что понятие (v, Х)-вычислимости, первоначально введенное только для
X < |v|, можно распространить на значения X вида Ы+и (п < со). В
самом деле, пусть i/0, . . ., уи-1 — какие-нибудь числа, не принадлежащие
К [v] (предположим, что такие числа существуют). Рассмотрим
нумерацию v*, которая является продолжением v, причем v*j^=|v| + & (i < п).
Так как все такие продолжения рекурсивно изоморфны, то понятие
(v*, Х)-вычислимости (X < | v\-\-n) зависит только от v и не зависит от у..
Если для нумерации v не существует продолжений указанного вида,
то всегда можно перейти к рекурсивно изоморфной нумерации v', для
которой таковые существуют. Сопоставление этих замечаний легко
приводит к искомому расширению (v, Х)-вычислимости.
3. Арифметика второй ступени
Обозначим через М^ множество всех (v, X) вычислимых
последовательностей натуральных чисел, и пусть i/(V) = U М^\ Основной интерес
Х<| v j+o)
представляют такие нумерации v, у которых M(V) достаточно замкнуто
в каком-либо подходящем смысле. Естественную меру замкнутости можно
получить из рассмотрения моделей арифметики второй ступени. Поэтому
мы сейчас напомним некоторые относящиеся сюда понятия.
Арифметический язык А второй ступени получается из языка
элементарной арифметики добавлением так называемых функциональных
переменных (и кванторов по этим переменным). При естественной
интерпретации языка А допустимыми значениями этих переменных являются
всевозможные последовательности натуральных чисел. Однако часто
рассматривается ситуация, когда область пробегания функциональных
переменных ограничивается некоторым классом Р числовых
последовательностей. Каждому Р соответствует при этом семейство Р*,
составленное из всех числовых последовательностей, которые могут быть описаны
в языке А при указанной интерпретации функциональных переменных.
Класс Р называется формульно замкнутым, если Р*С.Р.
Свойство формульной замкнутости можно ослабить, ограничиваясь
только такими формулами языка А, которые содержат не более п
функциональных кванторов (где п есть произвольно зафиксированное число).
В этой статье мы будем заниматься нумерациями, у которых множество
Mcv обладает ограниченной формульной замкнутостью при п=2.
Интерес к такого рода рассмотрениям обусловлен в первую очередь
тем, что фактически язык А является языком классического анализа,
а каждый формульно замкнутый класс — моделью анализа. В самом деле,
основные объекты анализа — действительные числа, непрерывные функ-
61

ции и т. д. — можно при подходящей кодировке отождествить с
числовыми последовательностями. При таком соглашении класс Р числовых
последовательностей можно рассматривать как предметную область
анализа, если только на этом классе выполняются соответствующие аксиомы.
Единственной нетривиальной аксиомой является утверждение о
существовании любых объектов, определимых в языке А (так называемая аксиома
свертывания). Ясно, что эта аксиома выполняется, если Р — формульно
замкнутый класс.
Аналогично, если Р обладает свойством ограниченной формульной
замкнутости при фиксированном п, то Р является моделью для фрагмента
классического анализа, в котором аксиома свертывания применяется
только по отношению к формулам с п функциональными кванторами.
4. Стабильные нумерации
Зафиксируем взаимно-однозначную эффективную нумерацию числовых
кортежей. Пусть (их, . . ., и^) обозначает номер кортежа uv . . ., ип\
<^> — номер пустого кортежа. Для произвольной числовой
последовательности а и числа х положим а (х)=(а (0), . . ., а (х—1)^>; а (0)=<Q>.
Всякую формулу арифметики второй ступени, имеющую не более двух
функциональных кванторов и не имеющую свободных функциональных
переменных, можно с помощью известных тождественных
преобразований привести к одному из следующих двух видов:
(a) ZzVftexR (аъ . . ., ам, а (*), р (*)),
(b) УаЩУхН^, ...,ам, *(*), В (я)),
где R — общерекурсивный предикат.
Как уже было сказано, нас будут интересовать такие ординальные
нумерации v, у которых ikf(v) формульно замкнуто относительно любых
формул с двумя функциональными кванторами. При этом, как легко
заметить, достаточно ограничиться формулами вида (а).
Введем некоторые вспомогательные обозначения. Пусть v — какая-
нибудь нумерация. Мы будем употреблять ограниченные
функциональные кванторы вида V(v)a, 3j>)a, чтобы указать, что подкванторная
переменная пробегает М[*\ Для произвольного рекурсивного предиката
R {av . . ., ат, и, и) и X < | v | + «> положим
S\[v] = {<а1, ..., О | 3Cv)aV(;\p3^ (av ..., ат, а (х) р (*))}.
Лемма 1. Если X<X1<|v| + co, то £* [v] С £** [v].
Доказательство осуществляется посредством довольно простых вычислений, в основе
которых лежит-упомянутое'в разделе 2 свойство (v, Х)-вычислимых деревьев.
(Аналогичные вычисления можно найти в [1], § 7.)
Дадим теперь основное определение.
Определение. Нумерация v называется стабильной, если для
любого рекурсивного предиката R существует ординал од < | v| + <*>,
такой, что
°я<х<М+ш-*ад=5?[у].
62

Лемма 2. Если нумерация v стабильна, то множество M(V)
обладает свойством ограниченной формульной замкнутости при п=2.
Доказательство. Нетрудно проверить (для стабильной v),
что:
За £ М(V) Vp £ M^RxR (av ...,amf а (ж), р (ж)) «-*
«-* Я^аУ^рЯягД К . . ., ат, а (я), р (*))«-, <а2, . . ., aw> £ 5? [v].
Осталось заметить, что множество 5a^[v] является (v, од^1)-разрешимым,
так что его характеристическая функция попадает в il/(V).
5. Основная теорема
В этом разделе будет описан метод построения стабильных нумераций,
который в определенном смысле может быть назван конструктивным.
(Имеется в виду тот уровень конструктивности, который принят в теории
рекурсивных иерархий.)
Пусть JV0, Nx — непересекающиеся бесконечные рекурсивные
множества натуральных чисел. Зафиксируем рекурсивную функцию (a, ЪУ\
которая осуществляет взаимно-однозначное отображение множества всех
пар (а, Ъ) натуральных чисел на множество Nv
Теорема. Для любой ординальной нумерации v0 (^[v0]C/V0)
существует стабильная нумерация у1 {К [у'] С N0 \J TVj), являющаяся
продолжением v0.
Доказательство. Пусть § есть множество всех гёделевских
номеров общерекурсивных предикатов R (аг, . . ., ат, и, и). Вместо SR [y\
мы будем писать £* [v], если г есть гёделевский номер R. Для
произвольной нумерации v положим
Z (v) = min f<г, ay11 r £ $ & Ш < со \a £ SJ.V l+* [v] — |J S? [vfil.
I L 3<|v|+ft JJ
Нетрудно проверить, что если для нумерации v значение Z (v)
определено, то его можно найти исходя из ^ (v) при помощи так называемой
гиперджамп-операции, итерированной конечное число раз. (Эта операция
^состоит в переходе от множества В к множеству Тв (см. раздел 2);
формальные детали можно найти в [2].)
Построение искомой нумерации V осуществляется посредством
трансфинитного процесса итерирования операции Z (v). Каждому ординалу т
из некоторого начального отрезка счетных ординалов ставится в
соответствие нумерация \. При этом, если хг < т2, то vTi является начальным
куском vTa. Процедура построения vT такова.
1. v0 есть нумерация, данная по условию теоремы.
2. Пусть vT уже построена. Для £<«> положим
<- = «, zw>*«.
Тогда |vT+1| = |vJ + (o; vT+1cJ = |vT| + i (i = 0, 1,...) и для z£K[vJ
Viz = V-
3. Для предельных х: ут= (J v..
63

С помощью индукции по т и леммы 1 можно показать, что c?£i£[vT],
так что предложенное построение корректно. Из мощностных
соображений ясно, что на некотором шаге т0 этот процесс должен оборваться
{Z (vTo) будет не определено). Нумерацию vTo можно взять в качестве v;
(проверку ее стабильности предоставляем читателю). Теорема доказана.
ЛИТЕРАТУРА
1. Н. В. Белякин. Обобщенные вычисления и арифметика второй ступени. Алгебра и
логика, 9, № 4, 1970, 375—405.
2. Н. Rogers. Theory of recursive functions and effective computability. Mc Graw—Hill,
1966.

Д. А. Б О Ч В А Р, В. И. Ф У К С О Н
ОБ ОПЕРАТОРАХ ЛОГИЧЕСКОЙ АППРОКСИМАЦИИ
Настоящая работа представляет собой исследование некоторых
классов возможных аксиом свертывания и, следовательно, также тех
логических формализмов, которые располагают наибольшей свободой
формулирования аксиом свертывания и позволяют изучать наиболее широкие
их классы. Такими логическими формализмами являются различные
варианты формализма классической логики с универсальными термовыми
переменными и без ограничений, налагаемых типовыми иерархиями.
В данной работе в качестве логического формализма выбрано исчисление
переменных одноместных предикатов; обозначим его К19 которое
является частью формализма К0, формулированного в [1]. В Кг атомарными
являются формулы вида х (у) и х=у. Атомарная формула х (у) будет
интерпретироваться как «у принадлежит х». Заменяя формулы вида х (у)
на уех, можно рассматривать Кх как теорию первого порядка с бинарными
предикатами принадлежности и равенства.
Условимся прежде всего относительно основных пунктов
употребляемой ниже терминологии. Формула вида
RzVx(z(z) = <5[x])1
называется сверткой, а формула <5 [х] — ее ядром.
Если данная свертка присоединяется к системе аксиом Кг в качестве
аксиомы, она называется аксиомой свертывания.
Далее рассматриваются пространство R ядер сверток, некоторые
определенные в нем операторы и расширения Кг системами аксиом
свертывания с ядрами, собственными для рассматриваемых операторов.
1
Пусть 93 [xv . . ., хп] — формула из Кг. Символ 93* [х19 . . ., хп]
обозначает далее формулу, двойственную к ^8[xv . . ., #J.
Введем теперь два типа операторов:
Af = 3Z {Yy (Я [z, у] -»^) & 21 [z, *]}, (14,)
D
D
1 Квадратная скобка в символе 5 [ ] обозначает зависимость формулы от свободных
переменных, указываемых в скобке. Символы переменных, кванторов и логических
операторов употребляются в метаязыке и автономно и для сокращения
неформальных выражений.
65

следующим образом определенных во всем R:
А*Ъ [х] = 3z {Vy (21 [z, й -> ff ДО) & 21 [z, ж]}, (2Л,)
Л*$ М = Vz (Vy ($ [у] -> 21*[z, й) -> 21* [z, Ж]}. (2Л.)
Очевидно, что каждый оператор в (14,) и (1Лв) переводит Л в некоторое
его подмножество. Пара операторов А^9 А™ вполне определена
заданием формулы 21 [z, x], которую будем называть корнем этих операторов.
Очевидно также, что при заданном корне операторы А* и А* ЯВЛЯЮТСЯ
двойственными друг другу х.
Доказательства следующих четырех общих теорем просты и потому
не приводятся, сами же теоремы являются основными для дальнейшего:
Ti. )-vx(A?<5ix]->$[x])\
Т2. \-Vx($[x]->A?$[x]).
ТЗ. |-Vz{Vs(<H[z, s]->$M)-*Vs(2l[z, x]-*A?<5[x])}.
Т4. [~Уг{Ух(<5[х]-+Щг, *])^ Vs(^$[sj-* 21 [z, x])}.
Эти теоремы подсказывают следующую терминологию для операторов
А^ и А^: оператор Л?* будем называть внутренним 21-аппроксиматором„
а оператор Л$1 — внешним 21-аппроксиматором. В соответствии с этими
е
терминами будем называть формулу А^^[х] внутренней 21-аппроксима-
цией, а формулу А^^[х] — внешней 21-аппроксимацией ядра ^[я].
Если для ядра &[х] в Кг доказуема формула
Ухтх]-+А?<5[х])9
то в Kv в силу теоремы Т1, доказуема и формула
В этом случае будем называть ядро &[х] собственным ядром
оператора Л™. Аналогично, если для ядра ^[х] в Кх доказуема формула
Ух(А*Ых]-+Ъ[хйш
то в К1у в силу теоремы Т2, доказуема и формула
Ух(А*Ъ1х] = Ъ1хУ).
В этом случае будем называть ядро <5 [х] собственным ядром
оператора Л^. Каждый оператор переводит свои ядра в эквивалентные им.
Теорема Т5. 1) Всякая формула вида
Яв(<В[и]&21[в, Х]\
где 93 не зависит от переменной х, есть собственное ядро оператора А?.
1 Если распространить на операторы определение двойственности, считая пустое место
для ядра самодвойственным. Правые части в (2А4) и (2 Ае), вообще говоря, не
двойственны друг другу, так как в них пустое место заполнено одним и тем же ядром
в общем случае не самодвойственным.
2 Знак формальной доказуемости, строго говоря, следовало бы снабжать
символом Кг. Однако мы условимся здесь и везде ниже опускать для простоты символ К^
66

2) Всякая формула вида
Vb(<33[b]V21*[b, *]),
где 93 не зависит от переменной х, есть собственное ядро оператора А^.
Доказательство.
H93W&5l[z, х]-*(Ъ[г, */]^93[z]&5l[z, у]), (1)
Н 95 [z] & 51 [z, х] - (51 [z, г/] -* Зи (93 [и] & 51 [в, г/])), (2)
Н 93 [г] & 51 [г, х] -* У у (51 [z, у]-* Зи (93 [и] & 51 [и, у])), (3)
|- 93 [г] & 51 [z, я] -* Vy (51 [z, у] -* Эй (93 [и] & 51 [и, г/])) & 51 [z, x], (4>
f-az(93tzl&5Itz, ;r])-*3z{Vj/(5l[z, г/]-*Эгг(93М&5Ц1г, г/]))&51[г, ж]}. (5)
Переименовывая в антецеденте (5) связанную переменную, получаем]
h-Ям(93[и]&51 [и, я])-*Зг{уг/(5Цг, J/]-*3u(93[u]&5I[u, */!))& 51 lz,z]}. (6)
В силу теоремы Т1,
j-3h(93[h]&51[u, z])=3z {Vj/(5l[z, г/]-* 3u(93M&5l[u, */]))&5l[z, г]}, (7>
т. е. Зм (93 Г«] & 51 [и, х]) — собственное ядро оператора Af. Теперь,
применяя принцип двойственности, получим и вторую часть теоремы Т5.
следствие 1. Т5. Операторы Af и Af- идемпотентны. В самом деле,
формулы Л^^[х] представляют собой частные случаи формул вида
Эи(<ЭЗ[и]&№, х]), а формулы А^[х] легко приводятся к частным
случаям вида Vu (93 [и] V 21* [щ %])• Это означает, что ядро А^^[х]—
собственное для А^ и ядро A^&lx]— собственное для А^>
Следствие 2. Т5. 1). Всякое собственное ядро оператора А^ имеет
вид или может быть приведено к виду
Яи(<В[и]&21[и, х]).
2). Всякое собственное ядро оператора Af- имеет вид или может быть
приведено к виду
Vb(<B[b]V21*[b, x]).
В самом деле, пусть Э£[#] есть собственное ядро оператора А% Тогда
Но ядро Л^9С [х] имеет вид Ягг (93 [и] & 21 [и, х]). Аналогично
доказывается вторая часть следствия.
Далее нас будут интересовать случаи, когда
1. W[zfx] = z (x)f 2. 21 [z, x] = ~z (x)9
3. 21 [z, x] = x (z), 4. <21 [z, x] = ~x (z).
Заметим, что во всех четырех случаях корень 21 [z, х] самодвойствен,
что несколько упрощает формулировку Т5 для этих случаев.
Введем теперь для каждого из этих четырех случаев индивидуальные
символы операторов, а именно выберем в порядке перечисления символы
1. М. и Мв, 2. рМ. и рМфУ
3. С. и С„ 4. рС4 и рСв.
67

Для изучения аппроксиматоров естественно исследовать свойства
экзистенциальных расширений формализма К19 получаемых
присоединением к последнему сверток с ядрами, представляющими собой
собственные ядра соответствующих аппроксиматоров, или, что в силу следствия
1. Т5 то же самое, — с ядрами, представляющими собой значения
соответствующих аппроксиматоров. Одним из основных возникающих при
этом вопросов является вопрос о непротиворечивости таких расширений Кх
ж связанная с этим задача построения моделей.
Будем символ Лк применять как общее обозначение аппроксиматора.
Пусть к системе аксиом Кг добавлена система сверток, включающая все
свертки с собственными ядрами аппроксиматоров Av А%1 . . ., Лк.
Полученное экзистенциальное расширение будем обозначать Е(Кг; Лъ Л2, . . .,
• • •» Аку.
В дальнейшем, имея в виду, что такие экзистенциальные
расширения по силе превосходят систему Кг, необходимо различать доказуемость
в К1 и доказуемость в такого рода расширениях.
В настоящей статье мы ограничимся рассмотрением
экзистенциальных расширений, доставляемых операторами 1—4.
2. Операторы мер
Смысл аппроксимации ^[х] операторами М4 и Мв подсказывает для
М4 и Мв соответственно названия: оператор внутренней и оператор
внешней меры ядра1. Теоремы Т1—Т4 для этих операторов имеют вид:
Tl. \-Vx(M.$[xl^<5[x]),
Т2. \-Ух(<5[х]-+Йе$[х]),
ТЗ. I— Vz (Yx (z (х) -+ $ [х]) -* Vx (z (x) -* Й$ [х])),
Т4. \- Vz (Vx (g [x] -* z (x)) -* Yx (Mtf [x] -* z (x))).
Экзистенциальное расширение Klt формальная система Е(Кг; М(, Йеу,
получается присоединением к аксиомам Кг двух схем сверток:
ЯгУя (z (x) = Й$ [х]),
KzVx{z(x) = ]Me<5[x}),
или соответствующих им двух схем «неявных определений» константных
термов:
Vx{Mf{x)~M<d[x\),
Vz(ilfff(*) = #.$'[*]),
где Л/р, Му—метаобозначения константных термов2.
Из соображений технического удобства мы избираем второй прием
введения аксиом свертывания.
1 Понятия внутренней и внешней меры ядра свертки введены в [2] и [3]. В [2] были
подробно изложены и мотивы такой терминологии.
2 Введение символов константных термов с принципиальной стороны несущественно
и можно было бы обойтись без такого расширения языка; однако оно удобно, так как
позволяет сократить запись формул и доказательств.
68

Если формула <5 [х] — собственное ядро М4 или Ме, то
соответствующая аксиома свертывания может быть записана в виде Vx(My (х) =
== <$ [х]) или Vx (Mf (x) = $ И).
Введем теперь символ включения С обычным определением: х С
С г/ = Угг(# (гг)->г/(и)). Тогда, пользуясь символом включения и
символами константных термов, запишем теоремы Т1—Т4 в виде
Tl. \-Vz(Mf(x)-+<5[x}\
Т2. \-Ух($1х]-*Я$(х)),
ТЗ. |- Vz (Vx (z (х) -* $И) -^ * Е ^f)»
Т4. |— Vz (Vx (9 [ж] -> 2 (ж)) -* Ж^ С z),
еще более прозрачном в отношении смысла аппроксимации.
Непротиворечивость Е(Кг; М{, Меу легко доказывается построением
модели. Минимальная модель Е\Кг\ М{, МеУ есть (W, е)>, где W' =
= {а0, ах} и a0sav a1ea1. Для констант Д. и V" > вводимых аксиомами
Л. (х) = 3Z (Уг/ (z (у) -* ~г/ = у) & 2 (ж)},
V(«) = Vz (Vy (у = у -* z (у)) -* z (х)},
доказуемо
Vs(A_(s) = ~a: = a:), Vs( V" (х) = х = х).
Эти константы /\ и V интерпретируются в модели (W, е^
соответственно как а0 и av
Введем некоторые дальнейшее определения.
Будем называть константный терм My внутренней мерой ядра ^[х].
Будем называть константный терм Mf внешней мерой адра ^[х].
Из теорем Tl, T2 следует, что Mf С Mf. Включение Mf С Mf
в общем случае не имеет силы в Е <^Кг; М4, Меу.
Ядро ^[х] называется измеримым, если в Е(Кг; М0 ЙвУ доказуема
формула
Mf С Mf.
Всякая внутренняя и внешняя мера измеримого ядра называется
просто его мерой.
Для системы Е<^К^\ М4, МеУ справедливы теоремы:
Т6. Если <5 [х] есть собственное ядро оператора Mi или оператора
Ml, то ядро ^ [х] измеримо.
Т7. Всякая формула вида
3z {Ух (z (х) == $ [х])} =MfQMf
доказуема в Е (Кг\ М., Мву.
Так как формула Mf Q. Mf согласно Tl, T2 доказуема вЕ(Кг;
Mv МеУ для произвольного ядра ^{х], то в свертке с ядром ^[х]г
с точки зрения системы Е <СКг\ М{, МеУ, содержится неявно утвержде-
1 Т. е. если в К1 доказуема формула Vx (g [я] -> $5 [х]) или формула
69

ние, что внутренняя и внешняя меры ядра совпадают в смысле
эквивалентности
Vx(M^(x) = Mf(x)).
Очевидно, именно включение
Mf_QM$
ж представляет собой, с точки зрения Е (Кг; Й0 ЙвУ «критическую
компоненту» сверки: присоединение последней к Е(Кг; Й4, Й^}
приводит к противоречию тогда и только тогда, если в Е (Кг; Й., ЙвУ для
ядра <5 [х] доказуема формула 3# {^M^f (x) & М^ (х)).
Будем называть ядро ^[х] неизмеримым, если в Е^К^ Й^ Й^
доказуема формула
Sx(~Mf(x)&M$(x)).
Примером ядра неизмеримого может служить любое расселово ядро1.
Простейшим расселовым ядром является ядро 9? [х] = <■>-£ (х). Для 9? [х]
D
доказуемо ^М^(М^)кМ^{М^), так как |— Yx (М^ (х) -^ ~ х (х)) и
\-Vx(~x(x)-+Mf(x)).
Приведем еще одну теорему об измеримости ядер.
Т8. Если ядра ^[я] и ^И измеримы, *то ядра ^iMV^M и
^i Iх] & ^i Iх] также измеримы.
Доказательство.;
\- v* №i М ^ й^ [х]) & ($, [х] = Afa [х])] -*
- V* ((ft И V 32 И) - (#,& И V #«& М)). (1)
|- V* {(jfr,$i [х] V && М) = (Яг (Vy (z (у) -*
- $, [у] & * (ж)) V Яг (Vi/ (z (р) -> ft \у]) & z (х))}. (2)
\- Vx {(^ .ft И V М$ъ И) = 3z ((Vi/ (z (г/) -*
-» Si [У]) V V» (z (у) - ft М)) & z (х))}, (3)
Н V* {(#,$1М V #<$, М) - 3z (Vz/ (z (у) - & М V 32 [»]) & z (х))}. (4)
Из (1) и (4) получаем
Н v* ((ffi 1*1 = &&! М)& (Si М = #«$«1*]) -*
-* V* ((ft [x] V 32 M) ■* 3z (Vy (z (y) -*S,b]V $2 M)& 2 (*)))• (5)
Таким образом, если ^[я] и 52М измеримы, то
f- Vx (ft [х] V S« М) - 3z (Vp (z (г/) - ft [у] V & [У!) & * (*))},
т. е. <§! [х] V ^ Iх] — собственное ядро оператора Й4 и, следовательно,
измеримо.
Доказательство для <5г [х] & ^2 Iх] основывается на двойственности
операторов Й4 и Йв.
Собственные ядра операторов внутренней и внешней меры имеют вид
"3.U (Q3 [и] & и (х)) и Yu (<23 [и] V и (х))9
1 Мы называем ядро расселовым, если добавление к системе аксиом Кг одной только
свертки с этим ядром приводит к противоречию.
70

где 93 не зависит от х, и, по теореме Т6, все такие ядра измеримы.
Следующие измеримые ядра
Згг (с (и) & и (#)),
Яи (3wYv (и (v) = v = w) &u (x)},
Yu (с (и) -> и (х)),
где с — произвольный константный терм, соответствуют определенным
теоретико-множественным понятиям. Следовательно, в Е (Кг; Mv МеУ
имеют силу аксиомы свертывания
Vx (Sc (x) = Яи (с (и) & и (х)))}9
Yx {S (х) = Ягг (SwYv (и (v) = v = w)&u (ж))},
Yx {Dc (х) = Yu (с (и) -+ и (х))},
вводящие константные термы, которые можно интерпретировать как
множество-сумму, множество всех множеств, имеющих соответствующие
одноэлементные множества, и множество-пересечение.
Таким образом, эти теоретико-множественные понятия наиболее
элементарны, поскольку система Е (Кг; М4, МеУ представляет собой, так
сказать, «почти чистую» логику.
Заметим, что хотя терм <§ относится к числу наиболее элементарных
в только что указанном смысле, ядро х = с может оказаться
неизмеримым; так, неизмеримо ядро х = Му, где My — внутренняя мера рассе-
лова ядра У1[х]— ~х(х).
D
3. Расширения системы Е(Кг] М., МеУ
Система Е(Кг; М., Меу допускает различные расширения.
Несущественным с точки зрения доказательства непротиворечивости
расширением Е(Кг; Mv МвУ является ее булево замыкание, в котором запас
ядер аксиом свертывания пополнен дополнениями и юнкциями1
допустимых ядер Е<(Кг; М., Меу. Булево замыкание системы Е(Кг] Й., МеУ
эквивалентно объединению ее с Е (Кх; рМ4, рМеу. Операторы рМг и рМе
назовем соответственно оператором внутренней и оператором внешней
псевдомер. Их собственные ядра имеют вид
Эй (Ъ [и] & ~ и (ж)), Yu (Ъ [и] V ~ и (х)).
Между операторами Й4, Ме и операторами pMv pMe имеют место
соотношения:
рМ.<5[х]=~¥в(~<5[х]),
РМе<5[х] = ~М<(~$[х]).
Непротиворечивость систем Е(^Кг] рМ., рМеУ и Е(К^ М.у Ме, рЙ.9 рМеУ
доказывается с помощью той же модели, что и непротиворечивость
Е(Кг; Mit Mey. При построении моделей Е(Кг\ М.> Меу полезна
следующая теорема.
Дизъюнкциями и конъюнкциями.
71

T9. Если для любого множества aQ.W сумма и пересечение
элементов а принадлежит W, то <(W, е)> является моделью Е(Кг; М., Меу.
Доказательство. Пусть а состоит из элементов W, для которых
93 [и] верно в <W„ &у. Сумма s и пересечение d элементов а
принадлежат W, и поэтому аксиомы
Yx (S (х) = Яи (93 [и] &и (х)),
Ух (D (х) = Yu (93 [и] -> и (х))
выполнены в <^И7, е^>, если интерпретировать термы 5"и D соответственно
как s и d. Так как любое ядро аксиомы свертывания из Е(КХ; М{, МеУ
может быть приведено к виду Ягг (93 [и] & и (х)) или Vu (93 [и] -» и (#)), то
все аксиомы Е <^Кг; Mv МеУ верны в <(W, е)>.
К Е(Кг; Мг, МеУ можно непротиворечиво присоединить аксиому
VxVy (Vz (z (x) еее z (у)) -+х = у). (S)
Пусть W состоит из множеств а0, аъ а2 и т. д., для которых верно
а.СИ7 и djSa. при j^ i — 1 Hi^l. (W, еу является моделью аксиомы g
и, по Т9, аксиом Е(Кг; Й4, Меу.
Однако конечной модели система Е<^Кг; М{, МвУ с добавленной
аксиомой £ не имеет, так как для термов &к, определяемых аксиомами
V*(&(*) = V2(z( Д.)-**(*))),
с помощью <§ доказуемо ~<g.-=<gj, если i=^=j.
Действительно, I— £г (Д) & ~ Д (Д) и j— ~ ^ = Д, (£0 = Д.).
Предположим, что для г, ]<ik доказуемо ~~<§\ —(£у, и докажем ~gk=z(g..
\-Sk = St -*Vx{Vz (z (£к_г) -* z (x)) = Vz (z (£,_,) -* z (x))},
|_ Sk = St -* { Vz (z (Sk.d -* z (ёъ-г)) = Vz (z (S^) ->
- * (£*-х))} & {Vz (z (SM) -> z (£,_!» = Vz (z (^J -» z (,?,_,))},
I- <£* = £,- -* Vz (z (Sk_J -> z (St_J) & Vz (z (tf,^) -* z (S^)),
\-Sk = St -> Vz (z (S^) = z (S^)).
По аксиоме § получаем
| <§k = <?t- -> ^_i = <£<_!.
По предположению (—~<£*_i = <£*_!,' следовательно, |—^£ft:=<§\.
Усиление аксиомы <? аксиома
У#Уг/ (—ж = г/ -^ 3z (2 (ж) & — z (г/))),
несовместима с аксиомами Е<Кг; М{, Меу.
Систему Е(Кг; Й., Меу можно непротиворечиво дополнить
рекурсивным множеством А следующих сверток:
Vx(A2>(x) = x= /V),
Ух (A$> (х) = х= V),
72

если термы А. и Aj определяются аксиомами из А, то свертки
Ух(А&(х) = х = А4),
Ух(А#(х) = ~А4(х))9
Ух(Ам(х) = А4(х)&А,(х))9
Ух(Ам(х) = А<(х)у Aj(x)),
принадлежат А. Термы, определяемые аксиомами из А, а также термы Д_
и V цазовем абсолютными. Непротиворечивость пополнения Е(Кг; Mit МвУ
аксиомами из А доказывается построением модели для Е(Кг\ М4, Меу
и любого числа к первых аксиом из А, вводящих термы Ар . . ., Ар .
Пусть W состоит из своих подмножеств av а2, ар , . . ., ар у bv ..... fc2fc+2»
cv . . ., c2fc+2. Все b4 являются различными подмножествами W,
содержащими в качестве элементов только множества а4, каждое с£ является
дополнением Ь. до W, ах — пустое множество, а2 равнообъемно W, т. е. а%
содержит все элементы W. Если: 1) рт = 2% то хеаРт = # = а{; 2) рт = 3*', то
хеаРт = ~хеа4; 3) рт = 2*3', то хеаРт = хт{ & хеа/, 4) рт = 3*5У, то хеаРт ==
= хеа£ V xsdj. Заметим, что каждое а{ равнообъемно некоторому bi или с{-
Используя Т9, нетрудно проверить, что (W, е)> является моделью Е(Кг;
М{, ЙеУ и первых к аксиом из А; множества av а2, ар , . . ., ар служат
интерпретацией абсолютных термов.
4. Операторы комер
В [4] П. С. Новиков ввел различение внутреннего и внешнего
вхождений переменной в атомарной формуле х (у). Следуя этому различению^
будем говорить, что в атомарной формуле х{у) вхождение переменной
у — внутреннее, а вхождение переменной х — внешнее. Пусть задана
формула (5. Будем рассматривать все атомарные подформулы <5, содержащие
вхождения переменной х. Если все эти вхождения внутренние, будем
говорить, что переменная х входит в <5 внутренним образом. Если все
вхождения переменной х в атомарные подформулы <J внешние, то будем
говорить, что переменная х входит в <5 внешним образом. Характер
вхождений переменных в аксиому свертывания в определенном выше смысле
существенно влияет на силу последней, как это ясно из относящихся сюда
теорем из [4]. Далее мы рассмотрим, как влияет характер вхождения свободной
переменной в собственные ядра некоторых аппроксиматоров на силу
соответствующих аксиом свертывания в системах Е(Кг\ Av . . ., Aky.
В корне операторов мер М., Йв, а потому и в собственных ядрах этих
операторов вхождение свободной переменной — внутреннее. Система Е(Кг;
М., МеУ очень слабая, она непротиворечива и допускает
непротиворечивые расширения1.
Весь класс сверток, в которые свободная переменная ядра входит только внутренним
образом, непротиворечив. Это доказывается, так же как и непротиворечивость
Е (Кг; Й{, Л?в>, интерпретацией в модели, состоящей из универсального п пустого-
множеств.
73-

Рассмотрим теперь операторы С. и Се, в корне которых вхождение
свободной переменной внешнее:
D
C, = Vz{Vy( >y(z))-»x(z)}.
D
Оператор С. назовем оператором внутренней комеры, а Се — оператором
внешней комеры.
Собственные ядра С. имеют вид
Яи(Ъ[и]&х(и)),
где 93 не зависит от переменной х.
В частности, собственными для С{ являются ядра
Ни (~с (и) & х (и)),
Qu (и = и & х (и)),
Э.и (~и = и&х (и)),
которые интерпретируются как «х не подмножество с», «х-пе пусто»,
тождественная ложь.
Система Е^Кг; СЛ> получается присоединением к Кг сверток
Vx(C?(x) = C.$[x]), (ЕС{)
где С$ — метаобозначение константного терма, <5 [х] — произвольное ядро.
Система Е(Кг\ С^ непротиворечива. Доказательство
непротиворечивости получается интерпретацией в модели <(W, е), где W = {a}, причем
'—asa. Аксиомы свертывания ЕС. переходят при этом или в
высказывание —asa, истинное в модели, или в тождественно истинное
высказывание aea = asa (см. [5]).
Собственные ядра Се имеют вид
Уи(Ъ[и] У х(и)),
где 93 не зависит от переменной х.
В частности, собственными ядрами для Св являются ядра
У и (w (и) -► х (и))9
Vu (и = и V х (и))9
Vu (~и = u\J х (и)),
которые интерпретируются соответственно как «х есть надмножество с»,
тождественная истина, их универсален».
Система Е(Кг; СеУ получается присоединением к Кг сверток
Vx«%{x) = t$\x\Y (EC,)
Система Е(Кг; Сеу также непротиворечива. Доказательство
непротиворечивости получается интерпретацией в модели (W, е)>, где W = {а}
и asa. Аксиомы свертывания ЕСв переходят при интерпретации или
74

в высказывание ага, истинное в модели, или в тождественно истинное
высказывание аеа~аеа.
Следующие теоремы решают вопрос о непротиворечивости
экзистенциальных расширений Kv доставляемых операторами Mv Me, С., Се.
Т10. Система Е(Кг; С4, Сеу противоречива.
Доказательство. Свертки
Vx (ч21 (х) = Vz (21 [z] -> x (z))) \
Vx (v2i (x) = 3z (~2i [z] & x (z)))
принадлежат к числу аксиом Е(Кг; С4, Св)>, так как их ядра
представляют собой собственные ядра операторов С. и Се.
Если С — константный терм, то термы т\С и vC определяются
аксиомами
Vx (у\С (х) = Vz (С (z) -> х (z))),
Vx (vC (x) = Sz(~C(z)&x(z)).
Для формулы 2Ц#] и терма С полагаем X21 = vy]21 и \C = vqC. Терм ч\С
D D
интерпретируется как множество надмножеств С, а vC — как множество
неподмножеств С. Далее используется, что для термов S и Т
|— S с Т -> vS (Г), |— 5 С Г -> t]S (Г),
h-5cr->^rc^5&vrcv^&X5cXr.
Формулы
Ух(Ъ[х]-+у(х))г
Vx (21 М -> у (х)) & 3^ (-21 [ж] & у (Ж))
будем сокращенно записывать 21 С у и 21 С */. Аналогично, у С 21 и у С 21
сокращения для формул
У*(0(*)^Щ*]),
V* (у (Ж) -* 21 [ж]) & Я* (~у (х) & 21 [ж]).
Введем следующие обозначения:
в
9* 1>, у] = Vu {у (и) == — и С ж).
Формула £>[х, у] интерпретируется «у есть множество надмножеств #»,
а 9^[#, у] интерпретируется «у — множество неподмножеств х». В Е (Кг;
М., МеУ имеем
h-Я с *-»(&[*, г/]->г/С#,
Н-*С21^(6[я, г/]->т]21Су),
Н?1с^(91[я!, »]-»ycv2i),
Ь-*С21->(9Ц;г, y]-+WQy).
1 tfd и v$l — метаобозначения константных термов.
75

Пусть
93 [и] = VxVyVz (S> [х, у\ & 9* [у, z]kzdx^z (и)),
в
£[#, У, z] = Sb[x, г/]&9^[г/, z]kzdx.
D
Следующие формулы выводимы в Е(Кг; С., СеУ*.
\-£[х, у, z]~*<8g:z&zc:x&<8c:x, (l)
|-£|>> У, z]-+yQrl<%&yi(%(z)&~y(z), (2)
ь-£г*,», *]->»сч9з, (3)
|— 2[х, у, z]-+ v7]Q3C2, }—£[яг, у, zl->XQ3C2, (4)
h- V^Y^/Vz (£ [z, у, z] -> XQ3 С z), (5)
Ь £ №3, ^93, xx<23] -^ X93 с XX93. (6)
Так как
f-<6LX93, чХ93]&9ЦчХ93, ХХ93], (7)
то
|— ХХ93 С^-^^93с ХХ93, (8)
h- ~ ХХ93 С Х93. (9)
С другой стороны, из (5) и (3) получаем
[-Х93С93, (10)
!-£[*, У, z}-+z{i%), (11)
h- VsVpVz (£ [.г, », z] -> z (7)95)), H 93 (ч93). (12)
Ь~Х93(т]93). (13)
Из (10), (12) и (13)
h- X93 с 93 & ч93 С ХЧ93, (14)
f-XX93cX93. (15)
Таким образом, в системе Е(Кг; С., СеУ выводимо противоречие
|- ХХ93 С Х93 & ~ ХХ93 С Х93.
Т11. Системы Е<Кг; С., М>> и Е(Кг; Се, МеУ непротиворечивы.
Т12. Системы Е<Кг; С., МеУ и Е(Кг; С„ М€У противоречивы.
Рассмотрим теперь операторы pCi и рСе, определения которых
находятся к операторам Ci и Се в отношении, аналогичном тому, какое
имеет место между операторами pMv pMe и операторами Й4, Ме.
Собственные ядра этих операторов имеют вид
Яв (93 [и]&~х (и)), Vu (93 [в] V ~ * И)-
К числу собственных ядер оператора рС4 относится ядро
Яв(с(в)&~ж(в)),
которое интерпретируется как «ж — ненадмножество с», а к числу
собственных ядер рСе — ядро
Vu (х (и) -> с (в)),
которое интерпретируется как «х — подмножество с».
76

Однако в случае операторов pCi7 pCe противоречивыми являются уже
обе отдельно взятые системы: Е(Кг; рС>> (к числу собственных ядер
оператора pCi принадлежит расселово ядро Згг (— и (и) & х (и)) и Е (Кг; рСеУ
(в числе собственных ядер оператора рСе находится расселово ядро
Vu (х (и) -> — и (и)).
5. Некоторые заключительные замечания
1. Аналоги теорем Т1—Т4 верны для операторов несколько более
общего вида, чем рассмотренные выше, а именно: для операторов
Л/S [х] = 3Z {У у (% [z, у]^$ [у]) & «и, [z, х]}
при условии Yy (У12 [z , у] -> s2lx [z, у]), обеспечивающем свойства
внутреннего аппроксиматора, и для двойственных операторов
л.ъ [х]=yz {Уу & [у] -»ед [z, г/]) -> <а; [*,*/]}
при условии Vz/(2l*[z, Rj-^^IX г/1), обеспечивающем свойства
внешнего аппроксиматора.
2. Формулированные выше понятия и теоремы могут быть обобщены
на случай сверток, ядра которых зависят от параметров
^...V^z (*(*)=$[*, *!,..., У),
а также в формализме К0 для сверток вида
3.zYx1 . .. Yxk (z (xv . . ., x) == <5[жр • • •> Жд.]).
ЛИТЕРАТУРА
1. Д. А. Бочвар. К вопросу о парадоксах математической логики и теории множеств.
Матем. сб., 15 (57), № 3, 1944, 369-384.
2. Д. А. Бочвар. Меры ядер аксиом свертывания. Докл. АН СССР, 185, № 6, 1969,
1211—1214.
3. Д. А. Бочвар. Об измеримости ядер аксиом свертывания. Научно-техническая
информация, серия 2, № 3, 1969, 3—4.
4. 77. С. Новиков. О логических парадоксах. Докл. АН СССР, 56, № 5, 1947, 451—453.
Ь. Д. А. Бочвар. Об антиномиях, основанных на группах определений предикатов,
каждое из которых непротиворечиво в отдельности. Матем. сб., 52 (94), № 1, 1960,
641—646.

В. К. БУЛИТКО
О ГРАФАХ С ЗАДАННЫМИ ОКРУЖЕНИЯМИ ВЕРШИН
Мы рассматриваем только неориентированные графы без петель и
кратных ребер [1]. Введем обозначения: v(M), u(M) обозначают
соответственно множества вершин и ребер графа М. Если S O.V (М), то [S, М]
обозначает подграф графа М, порожденный множеством S. 0(М, х) и 0(М, х)
суть окружение и окрестность вершины x£v(M) в графе М. Мы пишем
M~L, если граф М изоморфен графу L. \S\ обозначает количество
вершин конечного множества S. Пусть {М.\ i£T— семейство графов. Мы
говорим, что это разделенное семейство, если v(M.)^\v(M ) = 0 при i=^=j.
M\JL для произвольных графов М и L обозначает такой граф D, что
v(D) = v(M)\Jv(L) и u(D) = u(M)\J (L).
Пусть 93 — конечное множество конечных^ графов. Граф1, окружение
каждой вершины которого изоморфно некоторому элементу 93, мы
называем Г-графом для 93, обозначая его Г<(93>. Если 93={М}, то Г-граф
для 93 называем просто Г-графом для М, обозначая его Т <(Му.
В работах [1, 2, 3] сформулирована следующая массовая задача: по
произвольному конечному графу М установить, существует ли какой-либо
Г-граф для М.
В § 1 доказывается неразрешимость этой задачи (теорема 2). В § 2
указан широкий класс графов, для каждого из которых можно построить
конечный Г-граф (теорема 3).
§ 1. Невозможность алгоритма,
распознающего существование Т-графов для конечных графов
Наше доказательство опирается на алгоритмическую неразрешимость
«проблемы домино», рассмотренной в [4]. Эта проблема состоит в
следующем. Имеется конечное множество квадратных участков плоскости
(домино); все домино одинакового размера; каждый из четырех краев любого
домино имеет определенный цвет. Предполагается, что для всякого домино
имеется неограниченное множество копий (тип домино). Требуется
покрыть плоскость (квадрант) посредством копий домино данного набора,
не используя ни поворотов, ни отражений, и так, чтобы домино не
налегали друг на друга, а прилегающие края имели одинаковый цвет.
Существует несколько форм проблемы домино. Опишем в более точных
терминах одну из них. Пусть на плоскости задана квадратная сетка.
1 С непустым множеством вершин.
78

Придадим одинаковую ориентацию всем квадратам, являющимся
ячейками сети, т. е. для каждого квадрата зададим направление обхода его
сторон так, чтобы для любых двух смежных квадратов общая сторона
проходилась в разных направлениях при обходе этих квадратов. Теперь
занумеруем стороны каждой ячейки сети натуральными числами 1, 2, 3, 4
в том порядке, в котором они встречаются при обходе квадрата. Общая
сторона s любых двух смежных квадратов сети получает при этом два
номера i {s) и / (s). Выберем нумерацию v так, чтобы было \i (s)—/ (s)l = 2
для любой стороны s.
Пусть Р — конечное множество функций, отображающих множество
{1, 2, 3, 4} во множество слов в некотором алфавите А. (Каждая функция
из Р представляет тип домино, а ее значение на данной стороне квадрата —
цвет этой стороны.) По определению, пара (Q, Р), где Q С Р, разрешима
на плоскости, если существует функция /, определенная на множестве
сторон ячеек сети и такая, что для сужения fe функции / на множество
сторон любой ячейки е: ^~lofe^P (где v~lofe — произведение отношений)
и, кроме того, найдется такая ячейка е, что >"1о/е £ (?• Иными словами,
(Q, Р) разрешима на плоскости, если имеется покрытие плоскости
посредством домино, типы которых принадлежат Р, и в покрытии встречается
домино, тип которого принадлежит Q.
Аналогично, пара ((?, Р), где Q С Р, разрешима на квадранте, если
можно покрыть первый квадрант плоскости посредством домино, типы
которых принадлежат Р, а самая левая ячейка в нижнем ряду квадранта
покрыта домино, тип которого принадлежит Q.
В п. 4 § 2 и 3 работы [4] эффективным сведением проблемы остановки
для машин Тьюринга к проблеме разрешимости произвольной пары
(Q, Р) множеств типов домино на квадранте показана алгоритмическая
неразрешимость последней проблемы. (Указывается метод построения
такого набора Р типов домино для любой машины Тьюринга и такого
Q С Р, что цвета верхних ребер домино, составляющих t-й. ряд, считая
снизу, моделируют в определенном смысле конфигурацию машины в
момент времени t.)
Нетрудно указать, следуя идеям § 2 работы [4], эффективный метод,
который позволяет для любого множества Р типов домино построить
множество Р', Р С Р\ типов домино такое, что пара ((?, Р) разрешима
на квадранте тогда и только тогда, когда (Q, Р') разрешима на
плоскости. Отсюда следует невозможность алгоритма, узнающего разрешимость
на плоскости произвольной пары ((?, Р') множеств типов домино, где
Q CF.
Мы говорим, что конечное множество Р типов домино сильно
разрешимо на плоскости, если для всякого d^P пара {{d}, P) разрешима на
плоскости.
Теорема 1. Не существует алгоритма, узнающего по
произвольному конечному множеству Р типов домино, сильно разрешимо ли оно на
плоскости.
Доказательство. В самом деле, пара (Q, Р) при QO.P
разрешима на плоскости тогда и только тогда, когда сильно разрешимо на
плоскости хотя бы одно из множеств Н такое, что Hf)Q=^=0 иЯСР,
79

P — конечное множество, и количество таких множеств Н не
превышает
Мы покажем (леммы 1, 3), что проблема сильной разрешимости для
конечных наборов типов домино эффективно сводится к проблеме
существования Г-графа для конечных графов.
По произвольному конечному множеству Р типов домино построим
конечный граф М (Р).
Пусть s—1 — количество различных цветов, встречающихся на
ребрах элементов Р; занумеруем эти цвета натуральными числами 2, . . ., s.
Пусть dt£P; ily i3 — номера цветов его горизонтальных ребер; £2, t4 —
номера цветов его вертикальных ребер. Построим граф М (dj, который
будет в дальнейшем моделью типа домино dr Для к-то ребра (к=1\ 2, 3, 4)
домино d. построим простую цепь Lk {dt), такую, что
| 4 + 2 • ik, если к четно,
I *> (Lk (d.)) I = { 5 + 2 . ifcj если к нечетно,
и чтобы выполнялись следующие условия:
v (L, (d,)) n v (L3(<*,)) = v (L2 (d4)) П v (L, (d<)) = 0;
v(LAdi))nv(Ljc+i(di))=ajc при Л£{1, 2, 3, 4}, полагая L6(di)=L1(di);
если a,j£ и (Lk (dt)), то а^ является концом цепи Lk(d.) (/, к£ {1, 2, 3, 4}).
Пусть fk£u(Lk(di)), причем в Lk(d.) вершина fk находится на
расстоянии 3 от ак, если &£{1, 4}, и на расстоянии 3 от ak_v если к(< {2, 3}.
Для любого к(< {1, . . ., 4} определим граф Lk(d.), который в дальнейшем
является моделью к-то ребра dr.
v(Lk(dt)) = v(Lk(dt)),
и {Lk (d,)) U {/*«*}, если к £ {1, 4},
" (Lk (dt)) -1 и {Lk {d()) u (/A_i); есди к е {2) 3}
Введем множество {съ c2, c3, c4}, где {cv c2, c3, c4} (1 U *>(£*(d<))) = 0.
Теперь мы можем указать граф М (d4):
«(«(J.^fu^^dufe .... с4},
i*(Ж(dt)) = {uu(Lk(<*,))) U U {*cj\*ev{LJ(dt))},
(см. рис. 1). При изоморфизме М {dt) на граф L образы вершин ак
называем вершинами типа А, образы вершин ск — вершинами типа С, образы
вершин fk — вершинами типа F (/с = 1, 2, 3, 4), а образы остальных
вершин М(d4) — вершинами типа В. Очевидно, граф М(d.) не имеет
нетривиальных автоморфизмов, так что тип вершин в L определяется однозначно.
Построим еще графы МА, Mb, MF, как показано на рис. 2, предполагая,
что v(MA), v(Mb), v(Mf) попарно не пересекаются.
Моделью всего множества Р служит граф (несвязный)
М(Р)=( U M(d4)\ U МА \J MB \J MF,
80

h
Рис. 1
Рис. 2
Рис. 3
*(*f. Ч)

где каждый граф М (dj} изоморфен М(dj} для любогб d4£P, и при
всяких различных г, /£{1, 2, . . ., | Р \) множества v(M(dj), v(M (dj), v(MA),
v(MB), v(Mf) попарно не пересекаются.
Лемма 1. Если существует некоторый Т (М (Р)У, то множество Р
сильно разрешимо на плоскости.
Доказательство. Покажем, что для любого dj(<P во всяком
Г-графе для М (Р) найдется такой подграф, по структуре которого
непосредственно строится покрытие плоскости, включающее домино типа d..
Пусть с — произвольная вершина графа Т (М (Р)у. Рассмотрим подграф
M{dj, с) графа Т (М (Р)У, порожденный вершиной с и вершинами той
компоненты связности ее окружения в Т (М (Р)У, которая изоморфна М (dj)
(см. рис. 3). Чтобы подчеркнуть выбор компоненты, будем здесь (и в
аналогичных случаях в дальнейшем) вместо с писать с .. Обозначения
поясняются рисунками.
Мы будем выявлять, начиная с М (dj, cj, подграф Т(М (Р)У, в
котором каждая компонента связности окружения каждой вершины изоморфна
некоторой компоненте графа М (Р). Подграф следующего шага
рассмотрения будем называть достроением предыдущего, а окружение любой
вершины достроения, принадлежащей подграфам предыдущих шагов
рассмотрения, — достроением окружения этой вершины в подграфах
предыдущих шагов. О (х) обозначает окружение вершины х в графе данного
шага; если оно изоморфно М (dj или Ma, Мв, М#, то пишем вместо О (х)
соответственно М (d., х), МА(х), Мв(х), MF(x).
Для любых d8 и dk из Р, если s==£k, то никакие надграфы графов М (d8)
МА не изоморфны никаким подграфам М (dj). Мы будем опираться
далее на это непосредственно проверяемое утверждение.
Рассмотрим вершину ах типа А в И (dj, cj) (рис. 3). Имеем в
выбранных обозначениях для вершин:
v(0(aj)) = {cp, cp с,, fv /2, bv b2),
u(0(aj)) = {cpc., с .е., cpfv cpbv c/v Cjbv Cjb2, Cjf2, cfi2, cj2).
Это окружение должно быть дострцено либо до Ma (aj, либо до М (dm, aj
при подходящем dm£P, так как О (aj) не изоморфно никакому подграфу
графа MF\JMB.
Пусть достроение идет до М (dm, aj. Так как степень Cj в О (aj) равна 6,
то возможны всего два случая.
Случай 1. ВМ (dm, aj) вершина Cj имеет тип А. Тогда ср является
в нем, легко видеть, вершиной типа С, и найдется вершина х, такая,
что {^х, срх, \х, xa-j) С1и(Т<(М(Р)У), Ъ[=^=х. Достаточно теперь
выписать 0(c), чтобы убедиться в том, что оно не изоморфно никакому
подграфу М (Р).
Случай 2. ВМ (dm, aj) вершина Cj имеет тип С. Так как
окружение вершины типа С в модели домино связно, то в рассматриваемом до-
строении появится либо ребро, инцидентное какой-либо вершине из
{ср> /i> ^i} и какой-либо вершине множества {с{, /2, bj), либо новая
вершина, смежная Cj и ах. В любом варианте новое О (cj) не изоморфно
никакому подграфу М (Р).
82

Итак, достроение О (ах) в Ш (dj, Cj) идет до Ma (#i). Пусть
v(MA (ад) = {ср, /х, b^Cj, Ь2, /2, е., tl9 *2, сд) (см. рис. 4). Легко видеть,
что окружение с. в М (dj, Cj) может быть достроено только до графа-
модели некоторого домино, которое обозначим d.. В М (d., с.) вершина с
имеет тип С, а £2 — тип В. В самом деле, если t2 имеет тип С в М (d.y с,.),
то в дальнейшем, при достроении окружения t2 в М (diy cj до М (dk, t2)
при подходящем к, придется ввести вершину х(^{с , Д, Ьх, с^, Ь2, /2, с^
*/•
<г
*>
*р
</•
'*■
^
'/
<г 1
'/•
/Го <
Л|>
^Г
*/
x^'i^//
\&\
о« /
jx\...
r^i
\^f>S/y
/fyp.
у J)
/-А-*
^N\ 1
/^Оь£Г\^\\
^
\ у^ч^/
1 ьД 4 ^
1 \1~//1
\l/y^S*
ш?
UA-x\
^=
'*
"4
Рис. 4
^2> V *i» ai) и ребра ах^, £2#. При этом МА (#i) достроится до собственного
связного надграфа, который, таким образом, не изоморфен никакому
подграфу М (Р). Противоречие.
Аналогично, в М (dp, ср) вершина сд имеет тип С, a tx — тип В.
Вернемся к M(dp Cj) и рассмотрим другую вершину а3 типа А
в M(dp Cj).
v(0(a3)) = {c8, cp cv, b3, fc4},
u{0{az)) = {c8cp Cjc9, c9\, cjb^ cp3, b3c9}9
(см. рис. 3).
Как и для а19 показываем, что достроение О (а3) идет до МА (а3)
(см. рис. 4), причем в рассмотрении альтернативной возможности
аналогично предыдущему анализируются случаи 1 и 2. Точно так же
доказывается, что в О (с9) (в О (с9) при достроении до графа, изоморфного графу-
88

модели некоторого домино из Р, се играет роль вершины типа С, а
следовательно, вершины /4, £4 (вершины /3, t3) имеют типы F и В соответственно,
поскольку в T(JM (Р)У они не смежны.
Случаи, возникающие при рассмотрении вершин а2 и а4 (см. рис. 3, 4),
аналогичны и получаются комбинацией использованных способов
рассмотрения.
Теперь ясно, что подграф в Т(М (Р)У, порожденный вершинами,
общими подграфам М (dj, Cj) и М (d., е.), изоморфен, с одной стороны,
графу L2 (dj), с другой — графу L8 (d.), причем 5=4. В самом деле,
четность числа \v (L8 (dj))] исключает возможности 5=1 и 5=3. Если 5=2,
то из определения М (d.) получаем, что существует вершина z, играющая
роль вершины типа F в М (d., е.), и поэтому {zav zcg, zc.}Q,u (T(JV[ (Р)У)
и z^=t2. Но тогда окружение ах в T(J\d (Р)у содержит собственный связный
надграф графа Мл (#i), и МА (аг) изоморфно МА, чего не может быть.
Итак, 5=4.
Окружение вершины ср в графе рис. 4 может быть достроено связно
только до графа-модели некоторого домино, которое обозначим dp, т. е.
достроение пойдет до М (dp, ср). Подграф в TQ& (Р)У, порожденный
вершинами, общими подграфам М (dj, cj) и М (dp, ср), изоморфен Lx (dj),
с одной стороны, и L8r (d ) — с другой. 5' = 1 или 5'=3, в силу нечетности
\v (L1 (dj))\. Если 5' = 1, то в М (dp, cp) найдется вершина z' типа F, для
которой {z'cp, z'ax, z'cg)Qi (Г<71/ (Р)У) и z'=j£=tx, что невозможно, так как
Ma (#i) не может далее связно надстраиваться. Итак, 5'=3.
Таким образом, мы видим, что домино типа dj может быть правильно
(в смысле условий Ван Хао) состыковано с домино типов dp и d.. Будем
представлять себе домино как квадратный участок плоскости со стороной
единичной длины, называя его костью, причем стороны каждой кости
окрашены в тот или иной цвет. Допускаем, что имеется достаточный запас
таких моделей домино. Кость типа dj сопоставим графу М (dj, Cj) и
расположим на плоскости. Теперь в соответствии с результатами
предыдущего рассмотрения сопоставим графам М (d., с.) и М (d , cp) кости d. и d
соответственно и, располагая их на плоскости без налегания на dj и друг
на друга, состыкуем с dj соответствующими сторонами. (Напомним, что
dj — произвольный элемент Р). Каждый подграф графа М (dj, Cj),
который при изоморфизме М (dj, Cj) на Ж (dj) отображается на Lk (dj) при
подходящем к (и служит моделью /с-ой стороны соответствующей кости),
принадлежит в выделенном подграфе графа Т(М (Р)У еще только одному
из графов М (d4, е.), М (dp, ср),М (d8, c8), M (d9, cv) (см. рис. 4). Каждая
из вершин а±, . . ., а4, моделирующих вершины кости, соответствующей
М (dj, Cj), принадлежит еще ровно трем графам вида М (de,r се>)
(например, аг принадлежит еще М(dp, cp), M(d., е.), M(dg, cg)). Теперь ясно,
как построить покрытие плоскости посредством описанного множества
костей, начиная с кости типа dj. Таким образом, множество Р сильно
разрешимо на плоскости и лемма доказана.
Лемма 2. Пусть А есть бесконечный Т-граф для 93, где 93 =
= {MV . .., М8), и для каждого i£ {1, . .., s) существует такое x£v(A),
что О (А, х)^Мг. В этом случае, каковы бы ни были целые числа
Го> rv •••> г*> такие> что ° = ro<ri<r2< •• • <г«> существует Г-граф
84

для Л/, где М= U MJ, a (MJ), 7 = 1, . . ., г8 — разделенное семейство
графов, и Мг ~ Мгр если г ._j_ < t ^ ту
Доказательство. Будем считать, что rx-\-s^3. Пусть av . . ., а8 —
вершины Л, такие, что О (А, а.)~М4, & = 1, . . ., s. Определим
последовательности графов Av Л2, ... и множеств отображений Bv В2, ....
Рассмотрим множества С[л, Ci,2, . . ., С}, г„ для которых при любых t, t',
если г =£*', то CJ, < П C{t v = {^}, | С},<| = |*>(0(Л, аЛ(П))|, где Л (г)
удовлетворяет соотношению гЛ(<)-1<[ t^ г&(*г
Пусть #i = {ф2, р..., К г,}» где ф1§<:C*f,-> i; (0(Л, а*(„)) — взаимно
однозначное отображение, &=1, . . ., гв и Ф1,; (#i) = #£<*)• Теперь полагаем
и (A,) =\J{xy\ {х, у} С C\t t & ф1(, (я) ф1(,. (г/) 6 » И)}-
Занумеруем элементы у (-4i)\{#i) последовательными натуральными
числами, начиная с 2.
Пусть уже определены множество Вп и граф Ап и выполняются
условия:
(i) Все вершины Ап занумерованы последовательными натуральными
числами и \{х\0(Ап, х) ~ М) | ^ п;
(и) Каждое отображение tyitJ из Вп есть изоморфизм того подграфа Ап,
на множестве вершин которого ф^ . определено, на подграф А,
порожденный множеством значений;
(iii) Если 0(Ап, хр) ?* М, то существует единственное ф^ j £ Вп, область
определения которого содержит хр, причем ф#. j определено и на v(0(An, хр)),
а Ь, j (" (О (Ап, хр))) Q v {О (А, ф,, j (x))).
Рассмотрим вершину хт с наименьшим номером в Ля, для которой
0(Ап, хт) 9^ M (если такой вершины нет, то Ап — искомый Г-граф).
Пусть ф^ 4 £ Вп определено на QQv(Ли), a xm£Q. Если О(Ля, xj c^ Mt
для некоторого ££ {1, . . ., s}, то положим А'п=^Ап, В'п — Вп, в противном
случае 0(Ап> хт) изоморфно по (iii) некоторому подграфу графа Mv Тогда
введём множество С™ ., для которого С™ .f]v(An) = Q, \C^ t\Q\=^
= \»(0 (A> ♦*. i (*J)) \-\"(0 (An, xj) |.
Пусть ty'k, i — взаимно однозначное отображение С™ { на <J>fci f (Q) \J
\Jv(0{A, tyk,i(xjj), совпадающее на Q с tykii;
и (A'K)={xy i {x, у) с cjt,. & ф;, , (») ф;, t (у) е «(4)} и в (4.).
Так как фЛ> ^ — изоморфизм [(?, Ап] на [фЛ> f. ((?), А], то наше определение Л^
превращает, очевидно, ф^ 4 в изоморфизм [С™ ., Л^1 на [ф^ . (С™ ,), Л],
причем 0(А, ty'k9i(xm)) есть подграф [ф^ . (С^ .), Л], следовательно,
0(Л^, хт) с^. О (Л,*ф^ . (хт)). В'п отличается от Вп тем, что tykti заменена
на ty'kfi. Тогда свойства (ii) и (iii) справедливы для А'п и В'п.
Пусть Rt = {1, ..., гв}\{г^}. Введем г8 — 1 новых множеств С^ j, j ^ Rv
с условием, что все они попарно пересекаются в точности по {хт},
85

( U CZ,j)nv(A'n) = {xm}, и, наконец, [CZ,j\ = \v(6(А, а/ф)\, где г/ф_х<
J6Rt
</<г/(Я и ]£Rt. Пусть фж§у: С£ у-> 1;(0(Л, af(J))) являются взаимно
однозначными отображениями на / £ Rt, причем фт> . (з^) = #/(/)•
Теперь полагаем
1;И1Н4) = 1;(л;)и иСя
а (л+1) -«и;) и и {»* | {», *> с С, у & <iv у (у) ♦„.. у w e и (л».
Это определение Л„+1 превращает фт^ у, / £ Д,, в изоморфизм [C™t р Ап+1]
на О (Л, а/(у3). По построению M~0(An+v xj, \{x\0(An+1, х)~М}\^
^\{х\0 (Л„, х) ~ М) | + 1. Занумеруем все вершины An+i, еще не
получившие номера, последовательными натуральными числами, начиная с
первого, большего максимального номера вершин в Ап. Пусть далее Вп+1 =
==-^я+iU{фт, у |/6Rf}- Для Вп и ^.» утверждалось выше, что свойства (и)
и (iii) справедливы. По построению (ii) справедливо для {tymt у 17 € ^Л* Если
х^ CZ, у и х=£хт* то на а: определена только фт> у, /6-й^ у(0(Л„+1, ж)) С
С С у» и> Так как Фт.у есть изоморфизм [C£t у, Л„+1] на О (Л, а/(у)), то
со
(Ш) справедливо для Лй+1 и Вп+1. Искомый граф есть U Ап. Лемма
Доками
зана.
Лемма 3. Если множество Р типов домино сильно разрешимо, то
существует Т-граф для М (Р).
В самом деле, по покрытию Sj плоскости, содержащему домино типа dj,
можно построить граф М (S.) — модель покрытия, — в котором каждому
домино соответствует его модель. Этот граф мы выявляли в лемме 1, и
фрагмент его показан на рис. 4. В M(Sj) окружение каждой вершины
изоморфно некоторой компоненте связности графа М (Р). Можно считать,
что v(M(S1)), . . ., v(M(S\p\)) попарно не пересекаются. Тогда несвязное
объединение графов разделенного семейства (Nk), /с=1, 2, 3, . . ., где
каждое /VA изоморфно |U M(S4), является бесконечным Г-графом для
*=i
{М (di)\di£P}\J{MA, Мв, Mf). Для завершения доказательства достаточно
применить лемму 2 при г8 = \Р\-\-3.
Из лемм 1 и 3 и теоремы 1 следует
Теорема 2. Невозможен алгоритм, устанавливающий по
произвольному конечному графу М, существует ли какой-нибудь Т\Му.
Замечание. В теореме 2 можно ограничиться несвязными,
связными, плоскими, однородными и некоторыми другими классами графов.
В работе [5] показано, что не возможен алгоритм, распознающий по
произвольному конечному множеству 93 конечных графов, существует ли
конечный Г-граф для 93.
§ 2. Построение конечных Т-графов
для графов некоторого класса
Определение. Пусть даны изоморфизм ф4. графа А4 на подграф
графа В и изоморфизм <|/. графа А\ на подграф графа Bf, Ai ~ Л^., В ~ Bf,
i = lt . .., к. Семейства изоморфизмов (<|\.) и (<|Л) эквивалентны ((<|к) ~ (<|^))>
86

если существуют такое семейство изоморфизмов (cpj, i = l, . . ., к, и
изоморфизм срв, что <РдОф, = Ф-оср. для каждого i£{l, . . ., к).
Определение. Изоморфизм ф графа А на подграф графа В
называется свободным, если для любого изоморфизма срл графа А на А' и
любого вложения ф': А'-+В!, эквивалентного ф, сущеетвует такой
изоморфизм <?в графа 5 на В', что ср^о ф = ф' о <рл. Очевидно, если ф — ф'
и ф — свободный изоморфизм, то и ф; такой.
Определение. Пусть Q = v(B)f)v(C)=£ 0 и [<?, B] = [Q, C]=A,
а фв и ф„ — тождественные вложения А в В и С соответственно. Тогда
В [J С называется склейкой В и С по подграфу А, заданной вложениями ф5
/Г
к*
«с
•<
V,
/9
"'
Рис. 5
и фс, и обозначается /В, С, А, фв, фЛ (рис. 5). Всякое вложение
(изоморфизм на подграф) а графа D в граф 5 (А, С) можно рассматривать
как вложение a: D-+/B, С, А, ф5, фА которое называется вложением,
индуцированным вложением а.
Лемма 4. Пусть B~Bf, С~С!, А~А!, фд~ф^, ф^ ~ ty'0, а ф5
свободно. Тогда (В, С, А, фв, ф^<Я', С, А', ф^, %).
Доказательство. Так как ф^ ~ ф^, то существует yG\ C-+Cf,
ограничение уА которого на v (A) Civ (С) есть изоморфизм срл: А-+Аг.
Но по свободности фд существует такой изоморфизм ср^: B-+Bf, что
ограничение его на А совпадает с <рА. Отображение, совпадающее на и (В)
с ср^, а на у (С) — с ср^ есть искомый изоморфизм, что и требовалось.
Определение. Пусть даны семейства (N4) и (А4), £ = 1,...,&,
графов, где Nt есть Г-граф для Ait i £ {1, . . ., к), и Г-граф Д/ для графа В.
Предположим еще, что задано семейство (ф^.), &£{1, ..., &}, вложений: <|к:
-4*-> -В. Если для каждого t£ {1, . . ., к) существует семейство множеств (Л/*.),
7 G «^*» удовлетворяющее следующим ниже условиям (1)—(3), то мы говорим,
что М допускает согласованное семейство (N., ф;)-разбиений: (1) для
каждого ££{1, ...,&} система (М*.), /(</*, является разбиением v(M),
87

j £ /*; (3) если / (t, x) обозначает для каждых х(< v (М) и i £ {1, . . ., к}
элемент М\{{уХ) разбиения (Mj)t содержащий я, a Idit х :0([ДГу(. § Л), М], ж)->
-»0(Л/, х) есть тождественное вложение, то семейство (IditX), i — 1, . .., к9
эквивалентно семейству (фД i ^ {1, . . ., &}.
Если & = 1, то говорим просто, что М допускает (Nv ф^-разбиение.
Согласованное семейство (/V,., ^-разбиений порождается семейством
разбиений (М\), j £ /, i=l, . . ., к, множества v(M).
Лемма 5. Пусть Т-граф М для графа В допускает (N, ф^-разбиение,
а Т-граф 93 для графа С допускает согласованное семейство (Л7^, ф^Ураз-
биений, /= 1, . . ., 5, где N— Г-граф для A, a Nf— Г-граф для графа Af,
причем N = N1u^B — свободный изоморфизм. Тогда существует Г-граф Р
для (Ву С9 А у ф5, ф*\ и такой, что допускает согласованное семейство
(Nf, 6^)-раз биений, /= 1, . . ., s, а каждое 6^ индуцировано вложением ф£.
Доказательство. Пусть (М.), i(+I — разбиение и(Л/),
порождающее (7V, ф5)-разбиение Л/, а (93^), j(<Jf9 /£{1, •••»«} — семейство
разбиений v(L), порождающее согласованное семейство (Л^, ф£)-раз биений 93.
Введем разделенное семейство (Л^^), i(<I, /£/\ графов, каждый из
которых изоморфен 7V, и пусть (а; ^.), ($it Д i(«I, j £ 71 — произвольные
семейства изоморфизмов: ^itjiNitj-^[Mi9 M], РЛ j : Nit j ->[93*-, 95]. Для
каждых t£/ и /f/1 определим множества ребер:
Ri = {xy\x£v{Nii.), yGv(Niti), ?,.,(*) &.,(*) €«*(*)>.
Qj ={*у\х£и (Nit Jty£v (Nti ,), a.. J (x) a,, j (у) 6 »(Л/)}.
Построим графы MJ' и 93':
v (M*) = U i; (#,, у), и (Л/') = Qj U U и (#,, j);
i;(<B') = U v(NitJ), »(«0 = Л,и U «(#,..,).
Определим отображение a-7: MJ'-> М так: a^(^) = a^.(rc) как только
x^v(Nit j). Из определения М-7 непосредственно следует, что
а?—изоморфизм MJ' на М. Аналогично р*: 93* -> 93 есть изоморфизм, по
определению совпадающий с (3f. . на каждом v(N4tj), j^J1.
Докажем, что P = (U Л/у) U( U ЗУ) — искомый Г-граф. Пусть х £ у (Р).
Существует едияственный граф NitJ., для которого х£ v (N{, j). Если у—
тождественное отображение 0(93, Р*, Д#)) на себя, а 8 — тождественное
вложение О ([93],., 93], Р*,у(ж)) в 0(93, Р,-,у(^)), то для ограничения Pt.tJ
отображения $itJ на 0(NitJ, х) имеем: 8о(Зл у = Т°Р*, у» т- е- Р<, у ~ &•
По условию 8 ~ ф*, значит, р^ . — ф^.
Аналогично ограничение at.tJ отображения си. . на 0(Nitjy x)
эквивалентно ф^.
Таким образом, 0(М\ х) 1)0(4$% х) изоморфно (By С, А, ф5, ф*).
ф5 свободно по условию, и поэтому (В, Су А у ф5, ф*\ определено
однозначно (см. лемму 4).
88

Убедимся, что 0(Р, х) ~ О (MJ, х)[)0(<Ъ', х). Допустим z£v{Nn,n),
ydv(Nmim) и yz£u(P), где {тг, т) С /, {/г, т) С J1. По определению Р
имеем тогда: п = т или п = т, т. е. z/z£iz(93w) или yz (< и (Мп). Если {ху,
xz) CI и (Р), то {г/, z} CZ г; (Л/-7)U v (93*); далее, если еще yz £ u (Р), то
{у, z}Qu (Mj) или {г/, z}Cu (93*'). Итак, Р — Г-граф для (В, С, А, фЛ ФЬ>.
По каждому из разбиений (93у), /£/Л множества г; (93) с помощью
изоморфизмов р\ t £ Л строится разбиение ((93*);р> / £ ^Л множества v (93*),
г'6Д /G {!>•••» 5}- Пусть xQu(NitJ-)t yQv(Niftj-f) — произвольные
вершины Р. Введем обозначения: р*'(#) = z, Р*'(г/) = w, /d/f ,:0([93^(/ zy 93], z)->
-»0(93, z) — тождественное вложение, где 93у(/, Z) есть элемент
разбиения (93р, /£/Л который содержит z, /£ {1, . . ., s}. Аналогично Idftto:
: 0([93у(/, «о), 93], и>)->0(93, и>) обозначает тождественное вложение.
Семейства (Idfz) и (IdftUf), /£{1, ...,5}, эквивалентны, так как оба
по условию леммы эквивалентны семейству (ф£), /£ {1, . . ., 5}. Это значит,
что существует такое семейство изоморфизмов (ср^), /£ (1, ..., s), и
изоморфизм <ржя,: О (93, z) -» О (93, и>), для которых <ржю о /d/t г = /d/t w о ср/ при
всяком / £ {1, . .., s}. Тогда семейство изоморфизмов ((Р*')"1 о ср/ о р*'),
/ £ (1,.. ., s}, и изоморфизм (р*')_1 о ср^ о р* демонстрируют эквивалентность
семейств (W/§,) и (/d/f,), /G{1, ..-,*}, где «,..: О([(«%,,.,, 93*], *)->
-^0(93\ ж), /d/iy:0(L(93''#4/f,). 93*"], 0)->0(93'\ у) суть тождествен-
ные вложения. Так как 0(Nir9j'9y) по условию свободно вкладывается
в 0(MJ'\ у), то изоморфизм (р*')"1 о<р^,оР* можно продолжить до
изоморфизма 0(Р, х) на 0(Р, у). С другой стороны, вложения Id,tX и /d.
можно рассматривать как вложения Id* х и Id* в 0(Р, #) и 0(Р, г/)
соответственно. Следовательно, семейства (Id* х) и (Id*Y /£{1, • • •, 5}
эквивалентны. Лемма доказана.
Определение. Изоморфизм ф5 графа Л на подграф графа В
называется сильно свободным, если для любых изоморфизмов ¥А графа А на
граф Af, ty'B: Л,-> 5', эквивалентного ф5, и изоморфизма ув графа В на 5'
такого, что ср5 (ф5 (Д)) = §'в (срА (Л))о существует такой изоморфизм ф5 : Б-> Bf,
что ?^оф^ = ф;оср^ и если x$tys(A), то Фл(ж) = <рв(ж).
Лемма 6. Пусть в дополнение к условиям леммы 5 граф М
допускает согласованное семейство (Нг, tfвуразбиений, г(< (1, . . ., к), где
H1 = N, tyB = tyB, кроме того, tyB — сильно свободное вложение и, если
v(tyB(H1))r\v(tyB(Hry)=j£=0 для некоторого г£{2, . . ., к), то все
автоморфизмы Нг — тривиальные. Тогда Т-граф Р для (В, С, A, tyB, ф*\
допускает согласованное семейство (Fv 0^-разбиений, t = 1, ...,& + $> Ft = IIt,
а 6^ индуцировано tyB при £=• 1, . .., А, и F/+fc = /V^, а 6/+л индуцировано ф*,
тгри £ = 1, . . ., 5.
Доказательство. Теперь 1 = Р. Пусть ((Mj)% i£Ir —
разбиение v{MJ), построенное по (М^), i(<Ir, с помощью изоморфизмов aJ\ /£/\
г£{1, . . ., к). Так же, как в доказательстве леммы 5, определим Idr,x :
:0([(M%r>xV Af'j, *)-» 0(М', х), Id*j: 0{[{Mi%,trt9V МП, у)-* 0{W', у).
По условию для каждого г£{1, . .., к) существует изоморфизм \:
-0([(M%rtX)i Mjl x)->0{[{MJ')r.r{riX), М*'], у) и существует такой изо-
89

морфизм *ху:0{М\ х)-+0(М'"у у), что *хуоЫ^ х = Ы^уо %, г£{1,...,к}
(это доказывается рассуждениями, аналогичными приведенным в
доказательстве леммы 5). Используя тот факт, что тождественное вложение
0(Nirijri у) в 0(MJ', у) сильно свободно, изоморфизм (Р*')-1 о fzw о Р* (см.
доказательство леммы 5) можно так продолжить до изоморфизма у : 0(Р, #)—>
->0(Р, у), чтобы у на v(0(MJ, x))\v(N.j) совпадал с х Тем самым
доказана эквивалентность соответствующих семейств вложений в 0(Р, х)
и 0(Р, у) для любой пары х, y(<v(P). Что и требовалось доказать.
Определение. Пусть дан конечный граф В и существует
множество BQ.v{B) такое, что:
(1) если x£v(B) и степень х в В не равна 2, то х(*В;
(2)u(lB, В]) = 0;
(3) каждая компонента связности графа [и (В)\В, В] является простой
цепью длины 1, 2 или 3.
Тогда В называется растянутым графом, а В — множеством его
особых вершин.
Пусть {х, у) CS, х=^=у и в В существует простая цепь С (х, у) длины
3, 4 или 5, для которой х и у служат концами. Тогда мы скажем, что
х, у квазисмежны, а С (х, у) — квазиребро.
Непосредственно из определения следует
Лемма 7. Если В—растянутый граф, то:
(а) любое множество В его особых вершин не пусто;
(б) каждая компонента связности В — растянутый граф;
(в) каждый цикл длины 3, 4 или 5 графа В является либо
компонентой связности, либо блоком, и среди его вершин одна и только одна
является особой;
(г) каждый 2-связный подграф В либо является простым циклам
длины 3, 4 или 5, либо содержит хотя бы две квазисмежные особые
вершины.
Введем в рассмотрение графы Ег, Е2, N1, N2: \ и(Ег) | = 1, \v(N1)\ =
= \v(E2)\ = 2, и(Е1) = и(Е2) = 0, | и (N1) | = l, W2 — простой цикл
длины 4. Предположим, что В — произвольный растянутый граф и В —
некоторое его множество особых вершин. Определим отображения:
$*/:Е2-+В, для которого v(^(E2)) = {х-, у), {х, y}QB; ^ХВ:Е1^В9
для которого у(Фд(#1)) = {х}, х^В. Ясно, что <|^, ф*— изоморфные
вложения.
Если D — множество, то ниже D X D обозначает множество всех
неупорядоченных пар элементов D.
Лемма 8. Для всякого связного растянутого графа В и любого его
множества В особых вершин существует конечный Т-граф М, для
которого выполняются условия:
(1) М допускает согласованное семейство (Nfi $£\-разбиений, f £ В \J
U(BX В), и Nf~ N1, если f£B, иначе Nf ~ TV2;
(2) для любых х, у(<В можно так сгруппировать по два элементы
разбиения Д/f, . . ., M%h, порождающего (Nх, ^-разбиение М,
принадлежащее указанному согласованному семейству, что разбиение Mfx \J
U Mft, . . ., Mftk^ U Mf2k порождает (N^9 ^-разбиение М.
90

Рис. 6 Рис. 7
Доказательство. Для данного растянутого связного графа В
однозначно определяется количество dG(B) его различных циклов длины
3, 4, 5. Если еще зафиксировано множество В особых вершин В, то
однозначно подсчитывается количество de(B, В) квазиребер. Будем вести
доказательство индукцией по числу т(В, B) = dc(B) + de(B, В).
В базисе удобно рассмотреть случаи, когда т(В, В)^1. Если
т(В, В) = 0, то В~Ег, и лемма очевидна. Пусть т(В, В) = 1. Тогда
либо de(B, В) —0 и dG(B) = 1, а В изоморфно некоторому элементу
{С3> С\, Сг5}, где С. — простой цикл длины i\ либо dG(B) = 0 и de (В,
2?) = 1, следовательно, В изоморфно простой цепи Ci длины г, где
г£{3, 4, 5}. На рис. 6, 7 показаны Г-графы для элементов {С3, СА> С'ъ,
С3, С±, С5). Непосредственно проверяется, что эти Г-графы
удовлетворяют условиям леммы. По лемме 7 (в) |^| = 1, г£{3, 4, 5}. Поэтому
для Т (Сг>> достаточно проверить п. (1) леммы.
На рис. 6 в каждом Т <(СГ>> выделены подграфы, порождаемые
элементами того разбиения у(7\С?>), которое порождает (7V1,
^^-разбиение Т^С'.у, где {х) = С^. Для С., i —3, 4, 5, С\ определено однозначно
и состоит из концов #, у цепи, | Ci \ = 2. На рис. 6, 7 в
каждом Т^С.у выделены подграфы, соответствующие (/V2,
ф£?)-разбиению Г<С,>-
Для дальнейшего важно отметить, что ф*., ф*:— сильно свободные и
ф*# — свободное отображения.
91

Пусть лемма доказана для всякой пары ВиВ такой, что 1 ^ т(В, В) ^ fhr
и пусть m(Bf, Bf) = m-\- 1.
Случай 1. * В графе В1 имеется висячая вершина у. Тогда y(<Bf,
существует единственная квазисмежная ей вершина x(<Bf, и пусть С —
соответствующее (единственное) квазиребро С (х, у). Определим ВиВ:
В = [(и(В)\и(С)) U {*}• В'], В = В'\{у}. В есть растянутый граф, В —
некоторое его множество особых вершин, и т (В9 В) = т. Кроме того*
т(с9 с)=1. Пусть М и L—Г-графы для В и С соответственно,
удовлетворяющие условию нашей леммы.
Тогда выполняются условия леммы бег; (А) = {#}, ф^ = ф£, ф1, = ф*.
Ясно, что (В, С, {#}, ф*, ф^\ = 5/. В Лемме 5 указан способ построения
Г-графа Р Для В1'. Теперь мы рассмотрим это построение более подробна
с целью доказать п. (1) и (2) леммы.
Все вложения ф*, для z(<Bf исчерпываются вложениями,
индуцированными элементами множества /ф^} U {фд|££#). Кроме вложений ф**?г
{z9 w}CBr, индуцированных элементами множества {ф^Кя, w}ClBl\J
U {ф£у}> в семействе (ф|Т), {z, w}(ZBf, имеются элементы множества
Следует показать, что согласованное семейство (Nf, ф^)-разбиенийг
/G В1 U Ф X В) U {х, у}, где ф£, индуцировано соответствующим ф£,
которым по лемме 6 обладает Р, может быть дополнено до согласованного
семейства (7V/, ф£,)-разбиений, f£Bf\J (В1 xSf).
Рассмотрим L*, . . ., L£. «-разбиение v(L), порождающее (/V1, ф£)-раз-
биение L, и Д/f, . . ., М^-разбиение v(M)9 порождающее (TV1, ф*)-разбие-
ние М, х£В П С. Пусть Ц= {х™, х™}, ffG{l 2*Ь a Л«= {j^\ ^2)}>
г£{1, ..., 2&}; наконец, iVr,Jg = {#fg> #?g}— множество вершин элемента
Nr, q разделенного семейства графов, введенного при построении Р9 см.
лемму 5.
По п. (2) нашей леммы, справедливому для L, можно так
сгруппировать по два множества последовательности Lf9 . . ., Lfe, что получим
Ь\у, .. ., Z^-разбиение v(L)9 порождающее (/У2,_ф^)-разбиение L. Можно
выбрать обозначения так, что Ly = L*j_x \J L*. = L^._1 |J Lf\, j G {1, . . ., s}9
и таким образом, что x$-lx$(*u([L**9 L])9 g£{l, 2} (см. рис. 8).
На выбор изоморфизмов аг> , Рг в доказательстве леммы 5 не
налагалось никаких ограничений. Пусть |3Г> (£(?))== #(*), g£ {1, 2}. Мы теперь
можем считать, что ar> (£(«)') = у(?\ #£{1, 2}. Действительно, при всех
г£{1, . . ., 2&}, ?G{1» • • •» ^s} отображения ar q и
изоморфизмы. Вспоминая порядок введения ребер при построении Р,
получаем, что ^/\^(/\^и(Р) при всех g£{l, 2}, г£{1, , 2к),
/б{1, .... *}.
Для любого графа (? и любых смежных его вершин а и Ъ обозначим
через Id<(a, 0(Q, Ь)У тождественное отображение: <z-> u(0(Q9 &)). По п.
(2) нашей леммы каждое M?z из {М**, . . ., М%г) можно представить
в виде М%4_г U Щ.9 ££{1, . . ., к), если надлежащим образом выбрать
92

нумерацию множеств этого (7V2, ф^-разбиения М. Кроме того, каждое
М%* можно представить в виде М*п U Л/*,.
Рассмотрим произвольные i(* {!» ...,&} и /£{1, • • •> s}- Возможны два
{с точностью до перенумерации) случая. Либо М*= {у(]119 у$) и М*,=
= MV-v VlV)> либ° Щ=Ш-1, У&) и Щ'=Ш> viV-i}- °ба случая
рассматриваются аналогично, рассмотрим первый (см. рис. 8).
Имеем Id<yb\ 0(М, #*>)>-<!& если {&& = {!> 2}, '№\ 2*-1},
по определению (Лд, ф*)-разбиения М. В рассматриваемом случае по
#/-/ e2H,Zj-f
Mfi"/i ^Уч
"'Uy/
Рис. 8
аналогичным причинам Id(y(/\ 0(M> У?9)Ъ~$*в1 если (r> f} = {2*, 2i — 1}.
Поэтому /d<*M, 0(P, *(Л))~ф*„ если g£{l, 2}, {r, r} = {2i, 2*-l},
« = {2/, 2/-1}. Так же Ю<*М, 0(P, *#)>-«,, если #£{1, 2}, rG{2i,
2j— 1), {q, q} = {2]\ 2/ — 1}. Теперь ясно, что пара множеств {t%\\r£
£{2j, 2i — 1}, g£{2/, 2/ — 1}}, g=l, 2 (см. рис. 8) содержится в
разбиении Р**9 . . ., P^s множества и (Р), порождающего (N2, ф^разбиение Р.
Ввиду сделанного ранее выбора разбиений и(Р), порождающих (TV1, ф£,)-
разбиение и (iV1, ф^,)-раз биение Р, ясно, что (2) верно для Р^> . .., Р'*щ к . а.
Но показанное ранее существование согласованного семейства (7V1, ф*,)-
раз&иений Р, z(«Bf, как раз вместе с только что доказанным и означает,
что согласованное семейство (Nf> ф0-разбиений, /£В' U Ф X 5) U {#> */}>
продолжается до согласованного семейства (N р ф£,)-раз биений P,f^Bf \J
U (# X 5').
Случай 2. В графе В' нет висячей вершины. Тогда имеется 2-связ-
ный подграф в В'у и по лемме 7 (г) возможны два подслучая.
(а) Имеется простой цикл С\ в В1 длины 3, 4 или 5. Удаляя все
верщины этого цикла, за исключением особой вершины х, получим граф
В и т(В, В)—ту см. йемму 7 (в). Важно заметить, что для В можно
взять В таким, чтобы B = Bf. По индукционному предположению суще-
ствуют Г-графы для В и для С0 удовлетворяющие нашей лемме, а значит,
и лемме 5. Поэтому существует Г-граф Р для В1, причем условия (1)
и (2) нашей леммы выполнены для Р.
93

(б) Существуют такие квазисмежные х и у из В1, что В == [(и (Bf)\
\и(С(ху у))) U {х, у)у В1]-— связный граф. Тогда снова можно взять В
так, что В = ВГ. Далее рассуждаем, как в случае (а), имея в виду вместо
С^. цепь С., С; = С(х, у). Лемма доказана.
Пусть М — произвольный конечный неориентированный мультиграф,
и (М) и и(М) — множество его ребер и вершин, а / : и(М)-^> {3, 4, ...} —
функция с целочисленными значениями; и(е) — множество вершин,
являющихся концами ребра е. Рассмотрим произвольное ребро е£и(М),
v-(e)={x, у). Построим обыкновенный граф Lfie):
U\^Jf(e))== \Х> Xf{e),fr Xf(e),fr •••» Xfie),f{e)> У)' U\Lf(e)) =
— {XXf(e),2J U \Xf(e),f(e)> У) U U \Xf(e), i Xf{e), i+lf *
i
Если e — петля, и(е) = {х}, то положим х==у в этом определении.
Вершины xf(e)ti выбираются так, что u(Lf(e)) f] v(Lf[ef)) = v(e) fl v(er)
для любых е, е'£и(М) при е=^е1 и что и(е) П {^,2. . . •» s/(e)t/(„} = 0
для любого е£и(М).
Определение. Граф (J Lf(e) назовем /-растяжением М.
Теорема 3. Для любого f-растяжения произвольного конечного
мулътиграфа М можно построить конечный Т-граф. Для всякого
конечного мультиграфа М существует гомеоморфный ему обыкновенный граф L,
для которого, в свою очередь, существует конечный Г-граф и | и (L) | ^
<2|в(Л/)| + ||;(Л/)|.
Доказательство. Пусть L — произвольное /-растяжение любого
конечного мультиграфа М. Всякая простая цепь Сп длины п ^ 3 есть
растянутый граф. Действительно, найдутся неотрицательные целые числа
х, у, z, для которых /г = Зл: -f- 4г/ -|- 5z. Поэтому можно выбрать Сп таким,
чтобы выполнялись условия (1)—(3) из определения растянутого графа.
Концы цепи, конечно, принадлежат^. Теперь ясно, что L — растянутый
граф. По лемме 8 для каждой компоненты связности графа L есть
конечный Г-граф. Декартово произведение Т (Ау X Т^Ву есть f(4U ZT>,
где имеется в виду, что v (A) Г) v (В) — 0. (Это легко проверить
непосредственно, либо можно рассматривать как следствие леммы 5.) Поэтому
можно построить конечный Г-граф для L. Если / (е) — 3 при любом
е£и(М), то \v(L)\ = \u(M)\ + 2\u(M)\. L гомеоморфен М (см. [1]).
Теорема доказана.
ЛИТЕРАТУРА
1. А. А. Зыков. Теория конечных графов, I. «Наука», 1969.
2. Theory of graphs and its applications. Proc. Sympos. in Smolenice. Prague, 1964,157—
165.
3. В. Г. Визинг. Некоторые нерешенные задачи в теории графов. УМН, 23, вып. 6
(144), 1968.
4. A.S. Kahr, Edward F. Moore, Hao Wang. Entscheidungsproblem reduced to the V3V
case. Proc. Nat. Acad. Sci. USA, 48, № 3, 1962.

А. В. ГЛАДКИЙ
МАТЕМАТИЧЕСКИЕ МЕТОДЫ ИЗУЧЕНИЯ
ЕСТЕСТВЕННЫХ ЯЗЫКОВ
Лингвистика переживает в настоящее время переломный период —
в нее вторгаются математические методы, претендуя при этом на
фундаментальную роль. Математизация языковедения является закономерным
следствием его предшествующего развития; ее предсказывали еще в
начале века такие крупнейшие лингвисты, как Ф. де Соссюр и И. А. Бодуэн
де Куртенэ. Однако фактом она стала лишь в 50-е годы г. Дело в том, что
отправной точкой для создания математических теорий, предназначенных
для изучения естественного языка, — в настоящее время эти теории
обычно объединяют под именем математической лингвистики —
послужили теории, предназначенные для изучения языка математики, т. е. те
теории, которые составляют содержание математической логики. В
частности, очень существенными в этом отношении оказались идеи теории
алгоритмов. (Связь с математической логикой математическая лингвистика
сохранила и в своем дальнейшем развитии.) Поэтому математическая
лингвистика не могла возникнуть прежде, чем появилась и достаточно
продвинулась математическая логика, включая теорию алгоритмов.
Общеизвестен вклад, внесенный в эту последнюю П. С. Новиковым. Что же
касается математико-лингвистических исследований в нашей стране,
то они также не были бы возможны без предшествующего их появлению
развития математической логики — развития, в котором первостепенная
роль принадлежит научной и педагогической деятельности Петра
Сергеевича. При этом свойственное ему внимание к вопросам методологии,
которое он всегда старается воспитать и в своих учениках, немало
способствовало созданию благоприятного «научного климата».
Ввиду всего сказанного представляется оправданным включение в
посвященный П. С. Новикову сборник настоящего краткого очерка основных
идей математической лингвистики. Вследствие необходимости этот очерк
чрезвычайно сжат и конспективен.
1 Нельзя обойти молчанием то обстоятельство, что многие лингвисты до сих пор не
приемлют математических методов, считая их некоей «модой», не затрагивающей
существа науки о языке. Такое неприятие всегда сопровождается нежеланием и
(или) неумением изучать эти методы. Здесь нет ничего удивительного, поскольку
традиционная система лингвистического образования не включает никакой
математической подготовки. К тому же среди плохих лингвистов действительно немало
любителей всякой «современной» моды, и их работы, в которых математическая тер-
95

* * *
Сходство методов математической лингвистики и математической
логики обусловлено сходством объектов изучения: та и другая изучают
языки, т. е. знаковые системы, предназначенные для передачи сообщений,
причем в строении этих языков немало общего * (в частности, в тех и в
других роль «атомов» играют предикативные конструкции: в
математических языках выражения типа 2+3=5, в естественных —
предложения вроде Анна предпочла Ивану Петра)2. Но между
указанными языками имеются и чрезвычайно существенные
различия. Языки математики предназначаются для описания весьма
ограниченных предметных областей, поэтому их выразительные средства
небогаты, а структура проста. Сформулировать в явном виде правила,
описывающие структуру и функционирование некоторого математического
языка, — «грамматические правила» — обычно не представляет особого
труда; часто это делают сами авторы языков. Естественные же языки
универсальны, т. е. годятся практически для любых предметных областей;
они обладают колоссальным богатством выразительных средств и очень
сложной многоуровневой и многоплановой структурой. К тому же эти
языки возникли в результате стихийного коллективного творчества
множества поколений, а не индивидуального сознательного творчества
ученых, как языки математики; поэтому правила, описывающие структуру
и функционирование того или иного естественного языка, никогда не
бывают даны в явном виде «вместе с языком» 3. Обучаясь в детстве языку
и затем пользуясь им, человек не осознает этих правил (в то время как для
пользования математическим языком сознательное усвоение его правил
необходимо). А это делает выявление правил строения и
функционирования естественного языка самостоятельной весьма нетривиальной задачей,
которая, в сущности, и является основной при исследовании языка.
Ее можно решать, используя данные наблюдений над результатом работы
языкового механизма — речью, производя эксперименты — например,
задавая носителю языка вопросы и изучая его ответы — и, наконец,
прибегая к интроспекции (которая, впрочем, может здесь рассматриваться
как частный случай эксперимента, когда в роли испытуемого выступает
сам экспериментатор).
минология и символика служат чисто внешним украшением, способствуют
предубеждению иных серьезных «традиционных» лингвистов против математики.
Это, разумеется, не случайно — языки математики происходят в конечном счете
от некоторых фрагментов естественных языков, видоизмененных и развитых в
определенном специфическом направлении.
«Предпочесть» — трехместный предикат.
К искусственным универсальным языкам — таким, как эсперанто, — сказанное
кажется на первый взгляд неприложимым: эти языки представляют собой продукт
индивидуального творчества, и правила их сформулированы в явном виде их
создателями. Ноте правила, которые излагаются в грамматиках эсперанто (как и в
грамматиках естественных языков) в действительности далеко не исчерпывающие: они
опираются на весьма обширные сведения о строении и функционировании естественных
языков вообще (а эсперанто построен по их образцу), имеющиеся у читателя просто
потому, что каким-то языком он уже владеет.
96

Хотя речевые выражения функционально ведут себя как системы,
состоящие из дискретных элементов, физически они реализуются
непрерывными потоками звуков. Поэтому прежде всего эти потоки должны
быть расчленены на отрезки, каждый из которых в каком-то смысле
«работает» как единое целое, но может, вообще говоря, в свою очередь,
разбиваться на «более элементарные» отрезки. Когда это сделанох,
возникает, с одной стороны, задача изучения отношений, существующих
между вхождениями элементарных единиц в более крупные отрезки речи,
с другой — задача изучения отношений между самими элементарными
единицами. Отношения первого типа в лингвистике принято называть
синтагматическими, второго — парадигматическими. На некотором этапе
накопления сведений о природе тех и других отношений возникает
необходимость выработать специальные языки для их описания — метаязыки
лингвистики. Более того, для успешного выполнения своей задачи эти
метаязыки должны носить формальный характер. Именно здесь
начинается математическая лингвистика — она представляет собой не что
иное, как теорию формальных языков (собственно, метаязыков)
лингвистики; применение же этих метаязыков к исследованию языков
естественных остается предметом собственно лингвистики.
Коль скоро выделены элементарные единицы, отрезки речи можно
представлять себе как последовательности этих единиц. Впредь мы будем
называть указанные единицы элементарными символами или просто
символами, а составленные из них (произвольные) конечные
последовательности — цепочками. Как уже отмечалось, представляемые
элементарными символами отрезки речи могут, вообще говоря, дробиться на
«более элементарные» отрезки; таким образом, возможны различные
типы, или «уровни», элементарных символов (например, символы,
представляющие фонемы; символы, представляющие морфы — минимальные
значимые отрезки речи, такие, как корни, суффиксы и т. п.; символы,
представляющие слова, точнее, словоформы). В дальнейшем для простоты
будет считаться, что фиксирован некоторый определенный тип символов
и рассматриваются только цепочки символов этого типа.
Возникает задача как-то охарактеризовать правильные цепочки,
т. е. такие, которые представляют отрезки речи, и притом отрезки в
некотором смысле законченные. Например, если элементарные символы
представляют словоформы, то под правильными цепочками можно понимать
(грамматически правильные) предложения. (В дальнейшем, говоря об
интерпретации символов и цепочек, мы всегда будем, если не оговорено
противное, подразумевать именно эту.) Такого рода характеристики
естественно искать в терминах синтагматических отношений; однако и
парадигматические отношения могут быть при этом весьма полезны.
Так, сколько-нибудь обозримые характеристики правильности не могут
включать имена индивидуальных символов — в них могут участвовать
лишь ^имена классов символов (в интерпретации — грамматических
категорий: «существительное» [=«класс всех существительных»],
«настоящее время» [=«класс всех глагольных форм настоящего времени»]
1 Сделано это было, вероятно, в основном тогда, когда появилась письменность; отсюда
и началось накопление сведений о строении языка.
97

и т. п.); но классификации символов — частный случай
парадигматических отношений.
Некоторые весьма существенные универсальные, т. е. имеющие силу
для обширных групп языков^ необходимые условия правильности удается
получить в форме сравнительно простых систем аксиом, формулируемых
в основном в терминах синтагматических отношений. Что же касается
необходимых' и достаточных условий, то они во всяком случае не могут
быть универсальными — ведь понятие правильности зависит от
конкретного языка. И при этом ни для какого естественного языка правильность
не оказывается настолько простым понятием, чтобы допускать
исчерпывающее описание с помощью явно выписанных и сколько-нибудь
обозримых систем аксиом. Поэтому приходится прибегать к так называемым
порождающим описаниям (порождающим грамматикам) — специальным
исчислениям, в которых правильные цепочки получаются из конечного
числа заранее фиксированных исходных цепочек с помощью правил
вывода точно так же, как в логических исчислениях выводятся теоремы.
Такой способ особенно удобен потому, что при достаточно «разумном»
построении исчисления (грамматики) вывод цепочки может
рассматриваться как описание ее структуры; таким образом, грамматика не только
«выдает» правильные цепочки, но и «объясняет» для каждой из них,
«почему — в силу каких ее структурных свойств — она правильна». Могут
иметь самостоятельное значение и промежуточные объекты, получаемые
на 'определенных этапах выводаг — в качестве описаний отдельных
аспектов структуры цепочки (предложения). Точнее, вывод (в
подходящих грамматиках) может представляться в виде последовательности
процедур («частичных выводов»), каждая из которых приводит к
некоторому выражению, описывающему определенные аспекты структуры
предложения. По мере удаления от окончательной цепочки (реального
предложения) и приближения к началу вывода промежуточные описания
постепенно освобождаются от элементов внешней формы, становятся
менее «поверхностными» и более «глубинными», т. е. в более явной форме
выражающими смысл предложения. (Например, падежные окончания
существительных могут заменяться явным указанием падежей, затем
указанием синтаксических отношений между словами, реализуемых —
в данном предложении! — этими падежами, и, наконец, указанием
смысловых отношений, реализуемых данными синтаксическими.) Мы получаем,
таким образом, некоторую, хотя еще неполную, модель процесса
преобразования смысла в текст, — т. е. того процесса, к которому, по
существу, функционирование языка и сводится. Современное состояние
исследований позволяет надеяться, что на этом пути можно будет
добиться и более полного моделирования, приблизившись, таким образом,
к исчерпывающему пониманию сущности механизмов языка2.
1 Эти объекты не обязательно должны быть цепочками (подробнее см. ниже).
2 Говоря о задачах и методах лингвистики, мы намеренно ограничились синхронической
лингвистикой, изучающей состояние языка в фиксированный момент времени, и
оставили в стороне лингвистику диахроническую, изучающую изменение и развитие
языка. Сделано это потому, что математические методы пока что используются
существенным образом только в синхронической лингвистике.
98

После сделанных замечаний, имевших целью дать самое общее
представление о задачах математической лингвистики и их отношении к
задачам собственно лингвистики, мы можем перейти к более
конкретному — по необходимости неполному и эскизному — изложению
главнейших идей математической лингвистики как таковой. При этом мы
начнем с изложения понятий, относящихся к языкам для описания
синтагматических отношений, поскольку эти понятия, по своему характеру
весьма простые, существеннейшим образом используются на более
высоких этажах здания математической лингвистики.
Для формального описания синтагматических отношений между
вхождениями слов в предложение — или, как чаще говорят, для описания
синтаксической структуры предложения — применяется несколько
различных языков, из которых наиболее просты и вместе с тем наиболее
употребительны два — язык деревьев подчинения и язык систем
составляющих.
При описании отношений между вхождениями символов в цепочку
мы можем — во всяком случае, когда речь идет о наиболее общих
свойствах этих отношений — принимать во внимание лишь взаимное
расположение вхождений, отвлекаясь от различий между символами. Поэтому
в данном пункте мы можем считать цепочку просто конечным множеством,
снабженным отношением линейного порядка. Элементы цепочки мы будем
называть точками.
Отношения, образующие структуру предложения, могут быть a priori
довольно сложными; в частности, это могут быть отношения не только
между точками, но и между множествами точек, и при этом не только
бинарные. Тем не менее весьма полезной оказывается уже самая простая
модель, в которой структура цепочки (предложения) описывается с
помощью набора бинарных отношений между точками (вхождениями слов).
Эти отношения называют обычно синтаксическими связями; наличие
синтаксической связи между некоторыми двумя точками означает, что
слово (точнее, вхождение слова), отвечающее одной из этих точек,
«зависит» от слова, отвечающего другой, и притом зависимость носит такой-то
и такой-то характер. Например, в предложении лошади кушают овес
слово кушают связано со словом лошади предикативной связью (связь
сказуемого с подлежащим) и со словом овес — объектной связью (связь
сказуемого с дополнением) г; между словами лошади и овес связь отсутст-^
вует. В предложении Волга впадает в Каспийское море между словами
впадает и Волга имеется предикативная связь, между словами впадает
же — обстоятельственная связь, между в и море — отпредложная, между
море ж Каспийское — определительная; связи между остальными парами
слов отсутствуют. При этом для каждой связи одно из входящих в нее
слов считается «главным», а другое — «подчиненным»2. В результате по-
1 Обычно различают несколько типов объектных связей; мы сознательно упрощаем
картину.
2 Таким образом, в этой модели формализуется известное из «школьной» грамматики
(русского языка) представление о подчинении одних слов другим. Следует заметить
однако, что современная лингвистика несколько изменила «табель о рангах» школьной
грамматики: так, подлежащее считается подчиненным сказуемому, существительное
99

лучаем (ориентированный) граф с помеченными дугами, вершинами
которого служат точки цепочки. Для рассмотренных только что предложений
имеем следующие графы (стрелки направлены к подчиненным словам):
отпредл.
предик, объектн. предик, обстоят.
II II
опред.
I
I
ф
I п i j и i
Лошади кушают овес Волга впадает в Каспийское море
При всей своей бесхитростности описанная модель позволяет
обнаружить некоторые весьма существенные лингвистические закономерности.
Прежде всего построенные для реальных предложений графы
оказываются, как правило, деревьями* Сверх того, в подавляющем
большинстве случаев — по крайней мере для предложений, взятых из научных
и деловых текстов — эти деревья (называемые деревьями
синтаксического подчинения или просто деревьями подчинения) удовлетворяют
условию проективности: если а,(3,у — вершины дерева, такие, что из а
в р идет дуга, а f лежит между «и р(в смысле имеющегося на цепочке
линейного порядка), то в дереве существует путь из а в у. Содержательно
проективность означает «синтаксическую связность»: все, что находится
между «хозяином» и «слугой», прямо или косвенно зависит от того же
«хозяина», так что «владения» одного «хозяина» всегда образуют связное
множество — попросту говоря, отрезок г.
Отмеченные закономерности — «древесность» и проективность — можно
рассматривать, в принципе, как универсальные, по крайней мере для
некоторых обширных групп языков, Что же касается встречающихся в ряде
типов предложений отклонений от этих закономерностей, то их можно,
видимо, объяснить действием некоторых специальных механизмов.
Последовательное проведение такой точки зрения требует, однако, усложнения
модели, которого мы касаться здесь не можем. Впрочем, этот вопрос
разработан еще далеко не достаточно.
Широко распространен также другой подход к описанию синтаксической
структуры предложения, при котором первоначальным понятием служит
не синтаксическая связь между двумя словами, а «синтаксически
целостный кусок предложения» — словосочетание, или составляющая.
Например, в предложении Скалярное произведение обладает свойством
дистрибутивности естественно выделить составляющие: ll скалярное произведение;
2 обладает свойством дистрибутивности; 3 свойством дистрибутив-
в предложной группе — предлогу. Мы не можем здесь входить в рассмотрение
лингвистических соображений, приводящих к таким изменениям.
1 Хотя неформальным образом понятие синтаксической связи рассматривалось уже
давно (ср. предыдущую сноску), указанные закономерности были замечены лишь тогда,
когда модели был придан формальный характер. Деревья подчинения впервые
появились в работах французского лингвиста Л. Теньера (50-е гг.), явление
проективности было обнаружено в конце 50-х—начале 60-х г. благодаря работам К. Хар-
иера и Д. Хейса, Г. С. Цейтина, С. Я. Фитиалова, М. И. Белецкого, И. Лесерфа
и И. Има.
100

поста. Кроме того, целесообразно считать составляющими все
предложение и каждое вхождение слова.
При этом подходе также можно указать простые закономерности,
которым удовлетворяет большинство предложений из научных и деловых
текстов: 1) все составляющие являются отрезками; 2) любые две
составляющие либо не пересекаются, либо одна из них содержится в другой. Когда
говорят о системе составляющих некоторой цепочки, обычно
подразумевают выполнение этих требований. Содержательно условие 1) играет
такую же роль, как для деревьев подчинения условие проективности.
Условие 2) равносильно тому, что система составляющих является деревом
относительно непосредственного вложения (составляющая А
непосредственно вложена в составляющую В, если АС1В и в данной системе нет
составляющей С, такой, что AdCdB; С означает собственное включение).
Это дерево называется деревом составляющих.
Составляющим обычно приписываются типы, отражающие их
синтаксическую роль в предложении. При этом одной составляющей может быть
приписано несколько типов, отвечающих различным аспектам ее статуса*
Таким образом, дерево составляющих имеет помеченные вершины,
причем одна вершина может иметь несколько пометок. Для
рассмотренного выше примера имеем следующее дерево (составляющие, отличные
от вхождений слов, заменены номерами в квадратиках; 0 означает все
предложение, 1 — 3 объяснены (выше):
О
ПРЕДЛ.
'ср, ед, вм
V 3
Y наст, ед, ^
скалярное
произведение
обладает
ср, ед, им,
ср, ед, им,
S
ср, ед, им
т/тв
г наст, ед, 3,
г наст, ед, 3
свойством
дистрибутивности
'ср, ед, тв,
'жен, ед, род,
^жен, ед, род
Здесь ПРЕДЛ означает «предложение», Sx соответственно Sx —
«группа существительного, соответственно существительное, рода х
в числе у и падеже z», Ах у гиАх у%g — аналогично с заменой
«существительное» на «прилагательное», V™yiV {V™ v) — «группа глагола (глагол),
требующего (-ий) дополнения в творительном падеже, в форме времени и,
числа у и лица v»9 VUtyt0 — аналогично с тем изменением, что речь идет
о глагольной группе, не требующей к себе дополнений. Двойные
пометки вроде Sxy)Z, SxyiZ необходимы потому, что всякое существитель-
101

ное (прилагательное и т. п.) является и группой существительного
(прилагательного и т. п.).
Взаимоотношений между языками деревьев подчинения и систем
составляющих, равно как и других способов описания структуры
предложения, мы здесь касаться не будем. Подробнее о деревьях подчинения и
системах составляющих см. [6], приложение I. Более сложные языки для
описания структуры фразы предложены в [12] и [13].
Не будем мы останавливаться и на языках для формального описания
парадигматических отношений. Заметим только, что здесь основной
задачей является формализация традиционных грамматических категорий —
таких, как часть речи, падеж, род и т. п. Для исследований этого рода
характерно тесное переплетение формальных и
содержательно-лингвистических рассмотрений. Используемый в таких исследованиях
математический аппарат, как правило, весьма прост. Изложение соответствующих
вопросов имеется в [8]1, [9—11]. См. также [6], приложение П.
Перейдем теперь к порождающим грамматикам. Они были введены
в 50-е годы Н. Хомским (США), который предложил использовать для
описания естественных языков модифицированные некоторым
специальным образом полутуэвские системы — обычно называемые теперь
грамматиками Хомского — и указал специальные классы таких систем, особенно
существенные для лингвистических приложений 2. Грамматики Хомского
и сейчас остаются важнейшим и наиболее изученным классом порождающих
грамматик. Мы будем для краткости называть их просто грамматиками.
Грамматика может быть формально определена как упорядоченная
четверка T—(V, Vv /, Д)>, где V и Уг — непересекающиеся конечные
множества, называемые соответственно основным и вспомогательным
словарями (их элементы называются соответственно основными и
вспомогательными символами), / — элемент Vx (аксиома или начальный
символ) и R — конечное множество правил — цепочек вида ср —^ ф, где ср
и ф — цепочки символов из V\JVX ж -^— символ, не принадлежащий
V\JVV Цепочка т] непосредственно выводима из цепочки I в грамматике
Г, если % — cojCpcog, т] = coj^cog, где ср -> ty — некоторое правило грамматики Г.
Последовательность цепочек (£0, £1э . . ., %/г) называется выводом %п из £0
в Г, если для любого i = l, . . ., п цепочка %. непосредственно выводима
из |f._j в Г; если существует вывод т] из £ в Г, говорят, что т\
выводима из £ в Г. Множество всевозможных цепочек основных символов,
выводимых в Г из /, называется языком3, порождаемым грамматикой Г.
1 Этой работой было положено начало данному направлению.
2 Н. Хомскому принадлежит и сама идея порождающего описания языка. (Впрочем,
элементы порождающих описаний — в применении к морфологическим и
фонологическим явлениям — можно усмотреть в древнеиндийской грамматической традиции.)
Соответствующие понятия были введены им в [1] и [2]. Он же положил начало
математическому изучению грамматик (см. [3] и [4]).
3 Значение, в котором здесь употребляется слово «язык», не совпадает с принятым
в лингвистике и не является его уточнением: в обычном лингвистическом понимании
язык — механизм, действующая система, а не совокупность предложений. Такое
словоупотребление создает, конечно, некоторые неудобства, но оно стало уже
общепринятым.
102

В интерпретации основные символы — это словоформы
соответствующего языка, вспомогательные — имена грамматических категорий;
символ / означает «предложение». Язык, порождаемый грамматикой — это
множество правильных цепочек, т. е. грамматически правильных
предложений.
Для описания естественных языков чаще всего применяются
грамматики составляющих. Так называются грамматики, все правила которых
имеют вид Oj^Og—► 9iCG2, где А — вспомогательный символ, 0Х и 02 —
произвольные цепочки основных и вспомогательных символов и С —
произвольная непустая цепочка основных и вспомогательных символов.
Если при этом во всех правилах 0Х и 02 пусты, грамматика называется без-
контекстной или контекстно-свободной (ТтГС-грамматикой). Языки,
порождаемые грамматиками составляющих, очевидно, рекурсивны1 и,
более того, распознающие алгоритмы для них достаточно просты; это
обстоятельство соответствует тому интуитивно очевидному факту, что
носитель языка умеет отличать грамматически правильные предложения от
неправильных. Основное достоинство грамматик составляющих состоит,
однако, в том, что они позволяют некоторым весьма естественным
образом строить на выводимых цепочках порождаемых ими языков системы
составляющих (откуда и название этого класса грамматик). Именно, пусть
(/= £0, £х, . . ., £п=%) — вывод в грамматике составляющих,
начинающийся начальным символом и оканчивающийся цепочкой основных
символов. Поскольку на каждом шаге вывода заменяется лишь одно
вхождение символа в соответствующую промежуточную цепочку, для
каждой цепочки £f., i=0, . . ., п—1, и для каждого вхождения символа
в tt можно указать те вхождения символов в цепочку х, которые являются
«потомками» данного вхождения символа в £f.. Эти вхождения, очевидно,
заполняют отрезок, т. е. образуют некоторую подцепочку цепочки х —
точнее, вхождение подцепочки в х. Ясно, что любые два таких отрезка либо
не пересекаются, либо один из них содержится в другом (второе имеет
место, если одно из тех двух вхождений символов в промежуточные
цепочки вывода, от которых происходят данные отрезки, является
«потомком» другого; первое — в противном случае). Таким образом, множество
всех отрезков указанного вида удовлетворяет условиям 1) и 2) на стр. 101,
т. е. образует систему составляющих цепочки х. При этом для каждой
составляющей из этой системы естественно считать ее типом тот
(вспомогательный) символ (т. е. имя грамматической категории), от вхождения
которого эта составляющая «происходит». Поскольку возможны правила
вида ОхЛОа—► QLBQ2, где В — вспомогательный символ, одной
составляющей может быть приписано несколько типов.
Пусть, например, грамматика имеет (в числе прочих) следующие
правила:
(1)ПРЕДЛ^^^имГнаст>^3,
(3) Sx,y,z-^Sx,y,zi\
В то время, как произвольные грамматики порождают произвольные рекурсивно
перечислимые множества цепочек.
103

(4)
(5)
(6)
(7)
(8)
(9)
(10)
4.»,
v
' васт
Т/-тв
наст
С
С
ижен,
Т/ТВ
васт;
4*. у.
, Z X, у, 2"'
, v паст,^,» ж,^',тв>
,#,«? каст, ^,»'
t^-> произведение tZ,
свойство ,
у>2-> дистрибутивностьyz,
3 -> обладает^
<z-+ скалярный х у
(Пояснения: а) Каждое из выражений ПРЕДЛ, SV^ и т. п. — один
символ. Интерпретация этих символов та же, что на стр. 101.6) Правила
записаны сокращенно. Например, строка (2) представляет собой
сокращенную запись 36 правил, отвечающих трем возможным значениям х, двум
значениям у и шести значениям z. в) Выражения типа произведениеу> ж
обозначают словоформы. Например, произведениеед> тв=произведением.)
Пусть, кроме того, все словоформы будут основными символами, а все
прочие символы — вспомогательными. Начальным символом будем
считать ПРЕДЛ.
В такой грамматике легко построить вывод из ПРЕДЛ цепочки
скалярное произведение обладает свойством дистрибутивности, причем этот
вывод будет индуцировать на данной цепочке ту самую систему
составляющих, которая была рассмотрена выше (стр. 101), и составляющим будут
приписаны те же самые типы.
В настоящее время грамматики составляющих, и в особенности КС-
грамматики, широко применяются в лингвистических исследованиях,
как теоретических, так и прикладных (автоматический перевод и т. п.).
Кроме того, ТГС-грамматики оказались хорошим средством описания
языков программирования.
Выделенные в силу лингвистических соображений классы грамматик —
грамматики составляющих и ТГС-грамматики — наиболее интересны и
в чисто математическом отношении, поскольку они доставляют удобные
способы задания «простейших» рекурсивных множеств, занимающих самые
низшие ступени сложностных иерархий, — т. е. как раз тех множеств
конструктивных объектов, которые наиболее обычны в реальных
математических построениях. Математические исследования, посвященные
указанным классам грамматик, получили большое развитие. Можно отметить,
в частности, такие аспекты этих исследований, как изучение оценок
сложности выводов, решение или установление неразрешимости
алгоритмических проблем, изучение различных специальных классов грамматик,
«промежуточных» между грамматиками составляющих и ifC-граммати-
ками. Характерной чертой математической теории грамматик является ее
тесная связь с теорией автоматов.
Математические аспекты теории грамматик излагаются в [6],
лингвистические — в [5]; о ifC-грамматиках см. также [7].
В последние годы систематически изучаются так называемые
грамматики с управлением выводами — грамматики, снабженные
дополнительными механизмами, позволяющими среди всевозможных выводов выделять
«допустимые», причем языком, порождаемым грамматикой, считается
множество тех цепочек основных символов, которые можно получить из
начального символа с помощью допустимых выводов. Такой подход представ-
104

ляется весьма перспективным для лингвистических приложений, поскольку
использование лишь тех выводов, которые удовлетворяют определенным
ограничениям, лучше согласуется с языковой реальностью. О таких
грамматиках см., например, [14] и [15].
Наряду с грамматиками Хомского существуют и другие — впрочем,
так или иначе родственные им — типы грамматик, также
предназначенных для преобразования цепочек в цепочки. Останавливаться на них мы
не будем; некоторые из этих типов грамматик описаны в [6], гл. 6.
Хотя грамматики составляющих позволяют, видимо, получать
множества правильных фраз любых естественных языков, все же для
действительно полного и адекватного описания языков этих грамматик
недостаточно.
Дело в том, что, поскольку все промежуточные объекты,
участвующие в выводе цепочки (предложения) в грамматике составляющих, также
являются цепочками, их трудно использовать в качестве моделей
(описаний) различных аспектов структуры предложения: структура
предложения слишком сложна, чтобы ее можно было моделировать с помощью
цепочек; для этой цели необходимы деревья или даже графы более сложной
природы. Правда, вывод цепочки позволяет сопоставить ей дерево
составляющих, — но оно только одно, тогда как желательно было бы иметь для
предложения несколько деревьев (или более сложных графов),
отражающих разные аспекты его устройства, и сверх того располагать
процедурами, позволяющими преобразовывать одни деревья в другие, — причем
так, чтобы из дерева можно было получать, вообще говоря, не только
другие деревья того же предложения, но и деревья других предложений; это
позволило бы объяснять регулярные смысловые и
синтаксически-смысловые отношения между предложениями (например, отношение между
активной и пассивной конструкциями: он прочел книгу — книга прочтена им;
отношение конверсивности: Иван продал книгу Петру — Петр купил
книгу у Ивана, и т. п.), чего «не умеют» делать грамматики
составляющих.
Недостаточность аппарата грамматик составляющих для описания
языка с самого начала осознавалась их создателем Н. Хомским. Поэтому
он предложил порождать с помощью грамматики составляющих только
часть множества правильных предложений языка — так называемые
ядерные предложения, синтаксически наиболее простые, — а все
остальные получать из ядерных с помощью специальных преобразований —
трансформаций, причем вместе с предложениями должны
преобразовываться и системы составляющих, индуцируемые на этих предложениях
«ядерной» грамматикой. (Например, пассивные предложения получаются
из активных, с соответствующим изменением систем составляющих.)
Трансформации должны производиться по определенным правилам,
образующим в совокупности трансформационную грамматику. (См. [1]).
Трансформационные грамматики не были, однако, описаны строго
формально; лишь в последнее время появились формальные концепции
грамматик, выполняющих преобразования деревьев. Одна из таких
концепций, — описанная в [16], — предназначается именно для формализации
тех самых или приблизительно тех самых трансформационных грамматик,
105

которые рассматриваются в работах Н. Хомского. По другому пути пошли
авторы работы [17]. Они исходили из убеждения, что синтаксическими
связями и порядком слов управляют в языке совершенно различные
механизмы, так что для эффективного описания синтаксической структуры
предложения необходимо абстрагироваться от линейного порядка.
Поэтому объекты, с которыми имеют дело предложенные в [17] исчисления
(А-грамматики), представляют собой деревья с помеченными вершинами и
дугами, но без каких-либо дополнительных отношений — в частности,
без линейного упорядочения вершин. Эти деревья интерпретируются как
деревья подчинения (а не составляющих); пометки при вершинах в
интерпретации являются, вообще говоря, абстрактными лексическими
единицами, соответствующими на разных уровнях словам и словосочетаниям
(но в частных случаях эти пометки могут быть и реальными словоформами);
пометки при дугах — это имена синтаксических связей, как
«поверхностных», так и «глубинных» (ср. выше, стр. 100). Принцип работы Д-грамма-
тики аналогичен принципу работы грамматики Хомского: каждый шаг
вывода состоит в том, что некоторое поддерево перерабатываемого дерева
заменяется другим поддеревом в соответствии с одним из правил
грамматики. Правила, разумеется, имеют более сложное строение, чем в
грамматиках Хомского, поскольку для всех «внешних связей» вершин заменяемого
поддерева необходимо указывать, каким вершинам заменяющего они
передаются. По виду правил могут быть выделены некоторые специальные
классы Д-грамматик, наиболее существенные для лингвистических
приложений.
Д-грамматики могут быть использованы для порождения
синтаксических структур (а при наличии дополнительных правил линейного
упорядочения — также и реальных предложений). Однако основное их
назначение — не порождение, а преобразование одних деревьев в другие. В
частности, с их помощью можно преобразовывать глубинные деревья
подчинения г в поверхностные и обратно, а также одни глубинные деревья в
другие, — что позволяет строить, исходя из одного конкретного
предложения, ряд предложений, синонимичных данному. (Например, предложение
заяц очень боится волка может быть преобразовано в заяц испытывает
сильный страх перед волком или в волк внушает зайцу сильный страх;
предложение Иванов поручил Петрову отремонтировать дом — в Иванов дал
Петрову поручение отремонтировать дом, Ивановым было поручено
Петрову произвести ремонт дома и т. д.) В отличие от поверхностных,
глубинные деревья разных языков, видимо, практически одинаковы; это дает
возможность использовать их для автоматического перевода. Правда,
в каждом конкретном языке из большого числа синонимичных друг другу
глубинных деревьев обычно лишь немногие реализуемы, т. е.
соответствуют каким-нибудь имеющимся в данном языке поверхностным деревьям;
при этом в разных языках реализуемы, вообще говоря, разные глубинные
деревья. Поэтому перевод, как правило, не может быть осуществлен
путем преобразования поверхностного дерева входного языка в глубинное
1 На строении этих деревьев мы здесь останавливаться не можем. См. о них [18].
106

с последующим преобразованием этого же глубинного дерева в
поверхностное дерево выходного языка; однако, подвергая глубинное дерево
синонимическим преобразованиям, мы практически всегда можем рассчитывать
рано или поздно получить структуру, реализуемую в выходном языке г.
Задача, которую ставил перед собой автор настоящей заметки, состояла
в следующем: постараться убедить читателя, что математическая
лингвистика — это не псевдонаука, придуманная в качестве средства
самоутверждения неудавшимися математиками и старающимися во что бы то
ни стало не отстать от века лингвистами, а серьезная область
деятельности, порожденная стремлением понять природу такого удивительного
проявления человеческого духа, как язык — и что поэтому она заслуживает
серьезного отношения со стороны всех тех математиков, которые видят
в своей науке не только увлекательный спорт, но и средство познания
природы вещей.
Автор затрудняется судить, хорошо ли он эту задачу выполнил, но
все же надеется, что заметка не будет совсем бесполезной.
ЛИТЕРАТУРА
1. Н. Хомский. Синтаксические структуры. В кн.: «Новое в лингвистике», вып. II.
М., «Прогресс», 1962, 412—527.
2. Н. Хомский. Три модели для описания языка. «Кибернетический сборник», вып. 2.
М., 1961, 237—266.
3. Н. Хомский. О некоторых формальных свойствах грамматик. «Кибернетический
сборник», вып. 5. М., 1962, 279—311.
4. Н. Хомский. Формальные свойства грамматик. «Кибернетический сборник»,
новая серия, вып. 2. М., ИЛ, 1966, 121—230.
5. А. В. Гладкий, И. А. Мельчук. Элементы математической лингвистики. М.,
«Наука», 1969.
6. А. В. Гладкий. Формальные грамматики и языки. М., «Наука» 1973.
7. С. Гинзбург. Математическая теория контекстно-свободных языков. М., «Мир»,
1970.
8. О. С. Кулагина. Об одном способе определения грамматических понятий на базе
теории множеств. «Проблемы кибернетики», вып. 1. М., 1958, 203—214.
9. С. Маркус. Теоретико-множественные модели языков. М., «Мир», 1970.
10. А. В. Гладкий. Конфигурационные характеристики языков. «Проблемы
кибернетики», вып. 10. М., 1963, 251—260.
11. А. В. Гладкий. К определению понятий падежа и рода существительного. «Вопросы
языкознания», № 2, 1969, 110—123.
12. А. В. Гладкий. Об описании синтаксической структуры предложения.
«Computational linguistics» УН. Budapest, 1969, 21—44.
13. Ю. С. Мартемъянов. К описанию текста: язык валентно-юнктивно-эмфазных
отношений. «Машинный перевод и прикладная лингвистика», вып. 13. М., 1970, 89—
116.
Построение глубинных синтаксических деревьев, допускающих синонимические
преобразования, стало возможным лишь недавно — благодаря разработанному
А. К. Жолковским и И. А. Мельчуком [18] аппарату лексических функций. Им же
принадлежит указанный здесь подход к проблеме автоматического перевода.
107

14. Э. Д. Стоцкий. О некоторых ограничениях на способ вывода в грамматиках
непосредственно составляющих. «Научно-техническая информация», серия 2.
М., № 2, 1967, 35—38.
15. D. I. Rosenkrantz. Programmed grammars and classes of formal languages. J. ACM, 16r
1968, 107—131.
16. S. Ginsburg, B. A. Partee. Mathematical model of transformational grammars.
Information and Control, 15, № 4, 1969, 297—334.
17. А. В. Гладкий, И. А. Мельчук. Грамматики деревьев. 1. Опыт формализации
преобразований синтаксических структур естественного языка. В сб.:
«Информационные вопросы семиотики, лингвистики и автоматического перевода», вып. 1,
1971, 16-41.
18. А. К. Жолковский, И. А. Мельчук. О семантическом синтезе. «Проблемы
кибернетики», вып. 19. М., 1967, 177—238.

Г. А. ГУРЕВИЧ
К ПРОБЛЕМЕ СОПРЯЖЕННОСТИ ДЛЯ ГРУПП
С ОДНИМ ОПРЕДЕЛЯЮЩИМ СООТНОШЕНИЕМ
Центральными среди работ, посвященных исследованию групп с одним
определяющим соотношением, являются ставшие уже классическими
работы Магнуса [1, 2]. В работе [2], в частности, решается проблема
тождества для групп с одним определяющим соотношением. Хотя работы
Магнуса были опубликованы в 30-х годах, проблема сопряженности для
трупп с одним определяющим соотношением до сих пор не решена. Имеется
ряд работ, посвященных решению проблемы сопряженности для
некоторых классов групп, задаваемых одним определяющим соотношением.
Среди этих работ следует отметить работу Ньюмена [3], в которой
анонсируется следующий результат: в группах с кручением, задаваемых одним
определяющим соотношением, разрешима проблема сопряженности.
Основной результат данной статьи состоит в следующем.
Теорема. Если G = <^а1? . . ., ап, р, q; А (а1? . . ., ап, р) = В (av ...
* • •> апу #)^> г^е др(А)у д(5)=^=0, то в G разрешима проблема
сопряженности. (Символом да(С) обозначается длина проекции несократимого
слова С на алфавит {а, а"1}).
В работе используются общепринятые обозначения: zn — графическое
равенство, = равенство в свободной группе, сопряженность в
свободной группе, \С\ —* несократимое слово, равно С в свободной группе,
G G
= равенство в группе G, сопряженность в группе G.
Работа состоит из двух частей: в первой доказываются некоторые
вспомогательные леммы, во второй — сама теорема.
1. Вспомогательные леммы
Лемма 1. Пусть F — свободная группа с образующими av . . ., аи,
a Fv F2 — конечнопорожденные подгруппы. Существует алгоритм,
который по любому слову X£F определяет X^FXF2 или нет.
Доказательство. Пусть подгруппа К группы F содержит Fx
и F2=Kf)F2. Условие X£KF2 является необходимым условием того, что
X £ РгР^. Если Xe==X'Y, где X' £ K,Y^F2, то X' £ FXF2 является
необходимым и достаточным условием того, что X £ РХР^ По теореме Холла
существует подгруппа К конечного индекса в G, такая, что Рх входит в К в качестве
свободного множителя [4]. Так как множество всех подгрупп свободной
группы рекурсивно перечислимо и так как в свободной группе разрешима
109

проблема вхождения и существует алгоритм, определяющий, входит ли
Fxb К свободным множителем (алгоритм Уайтхеда [5]), то можно построить
алгоритм, который по подгруппе Fx строит подгруппу К конечного
индекса, в которую Fx входит свободным множителем. Так как К имеет
конечный индекс в F, то F2 имеет конечный индекс в F2, не превосходящий
[F : К]. Поэтому можно эффективно найти образующие F2. (Вообще,
по теореме Хаусона, пересечение двух конечнопорожденных подгрупп
свободной группы конечно порождено. Хотя во всех известных автору
доказательствах явно не доказано существование эффективной процедуры
для определения образующих этого пересечения, наличие такой
процедуры нетрудно вывести из доказательства, приведенного в [4].) Построим
алгоритм 01, который распознает свойство X,(<KF2, где К — подгруппа
конечного индекса, и алгоритм 93, который распознает свойство X £ F-^F'^
где Fx — свободный множитель в К. Тогда искомый алгоритм получается
последовательным выполнением алгоритма 01 и 93.
Построение алгоритм а 01. Построим шрееровскую систему
представителей правых смежных классов по К—IIIк. X £ KF2 тогда и только
тогда, когда в смежном классе КХ есть элемент из F2. Поскольку Шк —
конечно, то перебором можно найти все те элементы Y* из Шк, что в KY {
есть элементы из F2. Если при некотором I X F"1 £ К, то X £ KF2. В
противном случае X§KF2.
Построение алгоритма 93. Пусть К = ^Ьг . . ., b8^> Fl = <^bv . . .
•••>&/>(*<*) п Fs = €B1(b1, . . .,Ъа), . . ., Bt(blt . . .,Ъа)У Для слов из К
введем следующее отношение порядка:
а) произвольным образом упорядочим слона, у которых одновременно
одинаковая длина и {bl+1 . . ., Ь8) —длина т. е. 2 ^ (Л) ;
б) если dbl+u тшш,ь8(В)>ды+1, ...,ь8(А), то В > А;
в) если dbl+lt ...,ъ8{В) = ды+и ...,ъ8(А) и д(В)>д{А), то 5>Л.
Так как описанное упорядочивание эффективно, можно эффективно
построить числовую функцию р(В) (В^К), такую, что [х (В) > \х (Л) о
oB>i Пусть В§К. Представим В виде: B1B£bBrB'0B2, где
а) dbj+l9 . . -, b8 (Вг) = dblH, ...,Ьа (В2);
б) В1(В2) либо пусто, либо начинается (кончается) буквой b)(s^
>i>l> Ч=±1);
в) *>r>Z, s = 0, ±l,dbl+u_b3(B0) = dbl+u...b8 (B'u) = 0;
г) если е==0, то д (В0) = д (В'0).
Введем параметр
ч(Д) = а4|+1,...,»,(5), viBj, p.(s-i), д(В0)+д(В'0),:х(в0), цда1)}.
Будем считать, что tj (В) = {lv . .., Z6} > щ (А) = {1[, . . ., Гв}, если /,. = 1\
(1 = 0,1, ...,<) и j,+1>j;+i(* + i<6).
Определим следующее отношение порядка для кортежей из К: 91 =
= {AV ♦ . ., Ai}^>cS = {Clf . . ., C/J}, если либо Z> 1Ъ либо 1г = 1, щ(А4) =
= 7j(Cf)(i = 0, 1,...,£) и т] (Л/+1) > тг| (Ct+1)(t <[ 0- G помощью нильсенов-
ских преобразований и перенумерацией элементов кортежа можно за
конечное число шагов перейти от кортежа {B19...,Bt}, порождающего
подгруппу F'tf к минимальному (относительно введенного порядка) кор-
110

тежу 9Z — {Av . . ., Aq), также порождающему F'2. Кортеж 9Z обладает
тем свойством, что если CxU^1.. J4(^j;.^l, ej¥=^) и ij^ij+v
т
то ^(C)^>2lsil и ПРИ редуцировании слова АЬ . . . Ав™ крайняя слева
буква №(s^j^>l> т]=+1) не сокращается. (Доказательства этих
фактов проводятся стандартным образом. Например, см. доказательство
теоремы 7. 3. 2 [6].) Если Х£Р^'2, то найдутся Х;, У, такие, что X = X!Y, где
Х'^Рг и У:°г| Л^.1 . . . Ав.™ I, причем е^.^О, £=^-1-1 и Л^ содержит
букву 6}(s>/>Z, 7j=+1). Ясно, что 9(F)<9(Z) + max(9(i4f)).
Следовательно, X £ ^/^2 тогда и только тогда, когда существует Y ^F2
такое, что д (УХ 9(X) + niax (д {А.)) и XY'1^FV Но существование
такого слова X можно проверить перебором.
Следствие 1. Если F — свободная группа с образующими av ...
...,а/г и Fv F2 — конечнопорожденные подгруппы F, то существует
алгоритм, который для произвольных слов X,YQF определяет XQF±YF2
или нет.
Лемма 2. Если D (bv . . ., bn, р) ^ Dx (6Х, . . ., Ьп, р) и D (bv . . ., bn,
A (i^, . . ., bn, р)) ~ Dx (bv . . ., 6Я, Л (61S . . ., Ья, р)), и/жчел« Л (&! , 6Я, р)з:
згрМрЧ (е, 71=+1), то A(bv...,bn, p)^iA1A0Aj\ где др(А0) = 0.
Доказательство. Без ограничения общности можно считать, что
слова D и Dx — циклически несократимы. Кроме этого, можно считать, что
слово А — простое1, так как если А"=А\, то вместо D и Dx рассмотрим
слова D'=D(bv . . ., 6Я, рг) и Z); = /?2 (62, . . ., Ьи, рг)- Так как D + Dv T0
D1 ~ D[. Имеем D! (bv . . ., 6Я, Лх) — Dj (fr1? . . ., Ья, Ла) и слово Л2
начинается и кончается буквой р, т. е. для слов D1', D[, Аг выполнены все
условия леммы. Если мы докажем, что A1z°zA1A0Aj1 и др(А0) = 0, то
A^zA^rAf ж др(Аг) = 0.
Пусть
D*^z\D(b1^..,bn, A(bv...,bn, p))\;
D*1zSz\D1(b1,...,bM,A(b1,...,bn,p))\.
Возможны три случая: I. d(D*)<d(D$. П. д (£*) = £(£*). III. d{D*)>
^>d(D*). Очевидно, что случай III аналогичен случаю I.
I. а) Слово D* — циклически несократимо. Так как D*—D*v то при
некотором Z у^= 1 имеем
ZD*Z~1^zD*v (1)
где /?* есть циклическая перестановка слова /)*. Так как Dx циклически
несократимо, a D\ циклически сократимо, то Dx z°zpeD2pB(s = ±1), 4х
hiZ^qZ"1, причем слово А0 уже циклически несократимо. Отметим, что
из простоты слова А следует простота слова А0. D* имеет один из
следующих пяти видов:
1) ^ZozBZAlZ^D" (слово В состоит из букв Ъг,...,Ьп; 1^=0);
2) 5*3Zi42i4JZ"1Z)'/i41, где AtA2ZozA0f Z>0;
3) D*^zA2AiQZ-lD"Av где А^'^А-1, Z<0;
1 Слово А называется простым, если его нельзя представить в виде: А~А[, ни при
каком А и целом 1ф±\.
111

4) D*ZozZ2Al0Z-1DrfZ1, где Z^zziZ, причем Z2 ф 1 (Z2:£l, так как
ZD*Z~X — несократимо);
5) ^xZ-^^JZ-1, где Z^Z-^znZ'1, причем Z2 jt 1 (Z^l, так
как Z/5*Z_1 — несократимо).
Случай 1. Если D* имеет вид 1), то сократив равенство (1) на Z
и Z1, получим
BZAl0Z'lD" з= A\Z"XD\ZA\^ (2)
где к'кх^>0. Предположим, что слово А0 содержит букву р. Тогда из
(2) следует, что слово BZ — начало слова A\Z~X. Так как никакой конец
слова Z не может быть началом слова Z'1, получаем, что BZ — начало
слова А*. По тем же соображениям числа I и к одного знака (пусть Z,
к^>0). (Случай I, &<[0 аналогичен.) Рассмотрим вхождение V = A%*
* Z'1 * D\ZA^ в правую часть (2) и вхождение W = BZA\ * Z"1 * Z)4 в
левую. Возможны два случая: а) вхождения V и W пересекаются; Р)
вхождения V и W не пересекаются.
а) Пусть V ^ W. (Случай V^W аналогичен). Рассмотрим вхождение
V( = A\Z"^B^ *Z*D3 в правую часть (2). (Мы выделили первое
вхождение слова Z в слово D*2ZA^). W<^Vf, так как вхождения W и V не
могут пересекаться. Так как слово Z'1 кончается буквой р, то W<^.
<^ A\Z~X * BXZ * D3. Следовательно, A\Z~l zn BZA\Z~X. Сокращая это
равенство на -4JZ"1, получаем, что AQ и Z кончаются на одну и ту же
букву, что противоречит несократимости слова ZAqZ'1. Следовательно,
этот случай невозможен.
Р) Так как вхождения V и W не пересекаются, то либо
A^BZAiZ-W,, (3)
либо
^Z-i£>5^SZ^. (4)
Если (3), то из простоты А0 следует, что BZzziA**, что противоречит
несократимости слова ZAqZ'1. Если (4), то, сократив на А10~к, получим
A\Z^D^BZA\. (5)
Из (5) и [7] следует, что найдутся слова Р и (?, такие, что при
некоторых целых s hZZ"1Z)6^:(P08, BZ^z(QP)\ A0zn{QP)lQ. Отсюда, Pzz.
zoiZ'^P^Z (так как слова Z и Z"1 не могут пересекаться). Тогда Вт
Zoz(QP)8^1QZ"1P. Следовательно, слово Z не содержит букв р, чего не
может быть. Таким образом, если D* имеет вид 1), то А0 не может
содержать буквы р, что и требовалось доказать.
Случаи 2, 3. Из простоты слова А0 следует, что либо A1znli либо
A2znl. Но тогда слова D и Dx сопряжены, что противоречит условию
леммы.
Случаи 4, 5 разбираются по схеме, аналогичной схеме разбора
случая 1.
I. б) Слово D* — циклически сократимо. Тогда из циклической
несократимости слова D следует, что A zn АгА^А~1, где А0 — циклически
несократимо и D IE: p*D3pe. Тогда, если ZD*Z~l = D\, то ZznA-^Z^-1 и
слово \Z1A~1D*AlZ~1\ — циклически несократимо. Далее рассуждения
1J2

проводятся аналогично случаю 1а). Таким образом, мы получили, что
если А0 содержит букву р, то случай 1 невозможен.
II. Если слово D* циклически сократимо, то случай II аналогичен
случаю 16). Пусть слова Z)* и D\ циклически несократимы. Возможны
2 случая: 1) слово А циклически несократимо, 2) слово А циклически
сократимо.
1) Так как слова D* и D\ циклически несократимы, то D* — есть
циклическая перестановка слова D*. Нетрудно видеть, что из условия
D 'т6 Dx следует, что одно из слов D, Dv скажем Dly содержит буквы,
отличные от р. Если Dx не содержит букву р, то лемма очевидна. Если
содержит, то существует циклически несократимое слово D2,
сопряженное Dv начинающееся с буквы Ъ{ и кончающееся буквой р. Тогда D*
есть циклическая перестановка слова D\ ш ВАк* . . . Ак™. (Слово В не
содержит букву р.) Тогда, так как D\ ~ D*, имеем, что
ВАк^... Акт з: A2AS>... ЛМ1? (5)
где АгАг1°1 Аг (s= +1) (правая часть (5) — циклическая перестановка
слова Z)*). D ^ D2> следовательно, Агф1, А2^/Ы. Нетрудно видеть, что
числа к1У кт, sv s2 одного знака, например, положительные. Тогда из
(5), учитывая, что слово А начинается и кончается буквой р, имеем
A2^zBA3; A = SAX; A = AsSi; А^АгА%. (6)
Из (6):
A^zAiBAz^AtS^SA» (7)
причем А3^1.
а) д (А3) > д (А^) (случай, когда д (А3) < д (Аг) аналогичен). Тогда из
(7): A3z°zA±A1^zA1A5. Из этого равенства следует, что можно найти
такие слова Р, Q и целые числа I, s, что A4zsz(PQ)1; Ab^oz(QP)1, Аги:
z°z(PQ)s P; A3zsi(PQy P(f — s + Z), причем, слово PQ — простое.
Подставим выражения для Аг и А3 в (7). После сокращения получим
B(PQ)fP^z(QPyS1 (l>0), (8)
d(Q)^d(B), так как слово Р начинается с буквы р. Из (8) Qz2zBQx и
PBQ^Q.PE. (9)
Докажем, что Qxzsi\ и E^iB. Из равенства (9) следует, что число
вхождений буквы р в слово PBQX равно числу вхождений буквы р
в слово QXPE. Так как В не содержит букву р, то Е не содержит
букву р. Если (^zjfcl, то Qx начинается с буквы р. Следовательно,
Q1Z2zQ2E. Сокращая равенство (9) на Е> получим: PBQ2zszQ2EPЛо лемме
5.9 [7] следует, что либо ВтЕ, либо слово Р не содержит букву р.
Следовательно, BzsiE. Но тогда (9) примет вид: PBQ^^zszQ^B.
Следовательно, слова РВ, Qx — степени одного слова. Отсюда,
поскольку слово PQz°zPBQ1 было просто, то и слово QXPB — просто.
Учитывая, что слово РВ^=1, получаем, что ^nzl. Следовательно,
QzozB, Тогда Аг^{РВ)8Р,
A3 = {PB?Pt A2 = (BP)f", А^(РВ)ЯР (? = , + /+1).
ИЗ

Подставляя выражения для А и А2 в (5) и сокращая, получаем
(BP^-f^A^-1... з: Л'^Л'»... (10)
Так как А начинается с буквы р, то ^ = 0 и BxZoiB. Подставляя
выражение для Л и сокращая, получаем
Акг-1В2А^ ... ^(ВРУ^А8*-1...
Аналогично, кг—1 = 0, B2znB. Продолжая те же рассужденя,
получим, что
D\ =и В (РВ)9 РВ {РВУ Р ... (PB)t P
Л0 AQ Л0
и
D* з: (РВ)* РВ (РВ)* Р ... (РВ)* РВ.
Отсюда D2Zsz(BPy, Dzi:(PBy, но эти слова сопряжены. Получили
противоречие. Следовательно, случай а) невозможен.
Р) д (А3) = д (Аг). Тогда Аг ш А3, A isz A3BA3, причем слово А3
начинается и кончается буквой р. Далее рассуждения аналогичны
случаю 2).
2) Слово А циклически сократимо. Если V1^zDf1pepeD[, то D2z°i
Zsi pBDlD[pe ~ Dv но д (/)*) > 9 (/)*). Таким образом, если в D или Вл есть
две рядом стоящие буквы р, то этот случай сводится к случаю 1. Если
в словах D, Dx нет двух рядом стоящих букр р> то D*iszD(bv ..»
• • •» К, А (Ь1У. . ., 6Я, р)) и D*1^iD1 (Ьг, . . -, Ья* A (bv ..., Ья, /?)). Повторяя
рассуждения 1) получаем, что этот случай невозможен. Лемма полностью
доказана.
Лемма 3. Если D (6ls ..., bn, р) ^ D1(b1, .. .,6Я, р), a Z)^, ..., 6Я,
рСр'1) — Di(bx, . . ., Ья, рСр"1), где д (С) = 0, то тг/ж некотором целом к
одно из слое D и Ог сопряжено рк, а другое сопряжено Ск.
Доказательство. Без ограничения общности можно считать,
что слова D, D± цикически несократимы. Если одно из слов D, Dx не
содержит буквы р или есть степень р, то лемма очевидна. Если каждое
из слов D, D± содержит как букву /?, так и букву biy при некотором ir
то можно считать, что
D^b'D'pH; D^byD'tf* (е, el5 Y], ^ = ±1).
Тогда слова D*zn\ D(bv, .•,&„, рСр'1) [, D\z*i\D1(bv . . .,6Я, рСр'1) |
циклически несократимы. Следовательно, Z)* должно быть циклической
перестановкой /)*, т. е. D*iszPQ; D^ieiQP при некоторых Р, Q. Учитывая, что-
Ог — D, получаем, что PzuPpC^ QzuC^^Q^ где C-fi2znCl при
некотором I. Но, с другой стороны, QnzBpQ2, Получили противоречие.
Лемма 4. Если D (bv . . .,6Я, р)ч-*Ог(Ь1У . . .,6Я, /?) и Z> (&1?. . .,6Я, Л) ~
~ A(&i. -- -,&я» 4), ^ ^рМ/ («, -П= ±1). тоА^А^А]1, др(А0) = О
и при некотором целом к одно из слое D, Dx сопряжено AkQ, другое
сопряжено р.
Доказательство. Отметим сразу, что первая часть утверждения
леммы есть лемма 2. Без ограничения общности можно считать, что Аъ
кончается на букву р и что слова D и Dx циклически несократимы.
114

Если одно из слов D, Бг не содержит букву р или есть степень р, то
вторая часть леммы очевидна. Пусть лемма верна для всех А, у которых
d(A)<C,t. Докажем, что если д (А) = t, то слова D, Dx не могут
одновременно содержать как букву р, так и букву из алфавита {bv ,.., bn).
Пусть содержат.
Тогда можно считать, что слово
Dzs2b)D'p, D1zsrb)D[p^ (в, е1? т], ^= ±1).
Рассмотрим слова Df(bv.. .,bn,pYsi\D{bl9.. .,&„ МоР"1)!, D[(bv. . ,,bn,p)^z
zsz\D1(bv . . ., &я, /7-Ло/?""1) |. По лемме 3 они не сопряжены и ни одно из
них не сопряжено никакой степени р (так как они циклически
несократимы и содержат как букву р, так и букву Ь{ при некотором i). Но из
построения слов D', D[ имеем, что D1 (bv . . .,&„, Аг) ~ D[(bv . . .,bn, А)*
Но 5 (^j) < £• Получили противоречие. Лемма доказана.
Следствие 2. Если D{bv . . ,,bn,p)4^D1(b1, . . .,6Я, /?) и Z)^, ..., Ъ^ А) ~
~£>i(&i> ••*> 6„ Л), причем 9В(Л)^0, то Л ^ fi^o^i* где Зр(В) =
= др (А0) = др (Вг) = 0, Аг начинается с буквы р и одно из слов D, Dx
сопряжено AkQ, а другое (В~1рВ~1)к при некотором целом А.
В процессе доказательства теоремы существенно используются
некоторые свойства введенных П. С. Новиковым [8] правильных систем
проходных букв. Эти свойства, легко вытекающие из результатов,
содержащихся в работе П. С. Новикова [8], были сформулированы Бритто-
ном [9] и Коллинзом [10]. Мы их приведем для случая, когда правильная
система проходных букв состоит только из одной буквы.
Лемма 5. Пусть К = <^а1, . . ., ап±р; А.(аг, . .., ап) = В.(аг, ..., ап);
СУК ..., an)p=pDJ.(a1, ..., aj>; К = <^а1, . . ., ап; А.(аг, ..., ая) =
= В{ (av ..., any^(i=l, 2, . .., t; / = 1, 2, . .., I), p — правильная
проходная буква в группе К и пусть L — подгруппа группы К, порожденная
словами CJ.(a1, . .., ап) (; = t, 2, ..., Z), R — подгруппа К, порожденная
словами Dj(a, . . ., ап) (7 = 1, 2, . . ., Z). Тогда:
I. Если М = 1 и М содержит букву /?е(е=+1), то М можно
представить в виде М zn М1реМ2р'гМ3 (е = +1, д (М2) = 0), причем^ если е = 1,
то M2£R, а если е = —1, то M2£L.
П. Если М ~ Л7, слова М, N циклически несократимы относительно
правильной проходной буквы р и д (М)=^=0, то некоторая циклическая
перестановка М, кончающаяся на букву рг (е = +1), сопряжена N в группе К
словом, не содержащим букву р.
Кроме этого, нам понадобится также один результат Молдаванского [11],
который мы сейчас сформулируем.
Пусть Т = <^av . . ., ап; W (а.) = 1^>, все a. (i = 1, ..., п) существенно
входят в W(а.) и R — подгруппа Т, порожденная элементами av. ..,ak
(k < ri). Тогда, если неединичные элементы U, V (< R таковы, что CUC1,
CVC'1 £R для некоторого C£T\R, то подгруппа, порожденная
элементами U и V, является циклической.
П. Доказательство теоремы. Пусть С = ^аг, .. ., aw, p, q;
А(ах ..., ап, p)=B(av . . ., ап, $)>, где др{А), dq(B)^0. Слово C£G
назовем приведенным, если оно либо не содержит одновременно букв
pug, либо если его можно представить в виде CzszClE1 . .. СтЕт,
115

где слова С{ не содержат буквы р, слова Е. не содержат буквы q и
никакое С. (Е.) нельзя представить в виде
W4(a, ..., ап, В(а,...,ая, tf))(J^K> . . ., ая, А(аг, . . ., ая, р))) (И)
с непустым словом Wt {хг,. . ., хп, хп+1). Если слово С содержит буквы р и д,
представим слово С в виде CznClEl . . . СтЕт. Если слово С не
приведенное, то при некотором i либо: 1) Ci^Wi(a1, . . ., aw; i?(a1? ...,йй, #)),
либо 2) 2?f.= W\ (av . . ., aw; A (av . . ., an, p)). Если 1), то заменим С4 на
W4(av ...,an, A(av..-,an, p)). Аналогично поступим, если 2).
Полученное слово равно С в G, но число множителей в представлении этого
слова меньше числа множителей в представлении слова С. Следовательно,
описанной процедурой мы можем за конечное число шагов найти
приведенное слово, равное С в G.
Слово С назовем циклически приведенным, если оно приведено, и
в случае, когда С содержит одновременно буквы р, q соответствующие
слова Сг и Ет не пусты. Ясно, что по любому слову С можно найти
циклически приведенное слово, сопряженное С в G. Таким образом,
достаточно научиться решать проблему сопряженности для циклически
приведенных слов.
Рассмотрим следующие группы:
Gi=<€av • • ->av Pi *> s; A(av . . .,an, p) = s, В (a,, . . ., an, tf) = s>;
G2 = <€>i,. . .,ая,р, q,sj; fA (a15. . .,a„, f'1pf)f'1 = fst\B(a1,.. .,<*„,?)=*>;
G* = <^av ..., an, bL, ..., 6„, p, q, s, sv f; A(bv . . ., bn, p) = sx;
£(%•••.*„, ?)=*, fai=bif, fs = Slfy (* = 1, 2, ..., л);
G' = €av • ••» a«> г. *; 5K> .... <*„, #) = *>;
#' = <<& ..., 6W, p, *lf- il(6lf ..., Ья, *) = *!>;
Группа G2 тривиально изоморфна группе G. Свободный автоморфизм
{а.-» а,; 5 -> s; f -* /; g-» g; p -> Z"1/?/} переводит группу G * {/} в группу G2.
Группа G2 тривиально изоморфна группе G\ Поэтому С(сг1? • • -, ап, p,q) ~
^Т{аг...,ая, р, ?) о Cfo, . . ., an,f-lpf, q) £ Г (al5 . . ., ая, flpf, q).
Отметим, что из теоремы Магнуса «о свободе» следует, что буква р
правильная проходная буква в группе G*. Группы G1, G" тривиально изоморфны
свободным группам.
Доказательство теоремы распадается на два случая:
1) когда слово С содержит и р и q;
2) когда слово С не содержит хотя бы одну из букв р или q.
1) Так как С циклически приведено, то Cze:C1E1 . . . CmEm. Применяя
соотношения fa. =Ь^, слово С (av . . ., ап, /-1р/, q) можно привести к виду:
С (a,, ...,an, f-ipf, ?)£Cz Cj-iEj ... f-Wj,
Где Ё{ получается из слова Е. заменой букв а. на Ь.. Так как слово С
было циклически приведенным, то слово С циклически редуцировано
относительно проходной буквы /. Аналогично, Т (av , . ., ап, /_1р/) =
£= T^zszT-J^Hj f'lH J циклически несократимо относительно про-
116

ходной буквы /. Тогда по лемме 5, если С* ~ Т*, то некоторая
циклическая перестановка слова С* сопряжена Т* в G* словом, не содержащим
буквы /. Поскольку число различных перестановок слова С* конечно и
поскольку любая циклическая перестановка слова С* имеет такой же вид,
как и С*, то достаточно построить алгоритм, распознающий, сопряжены ли
слова С*, Т* в G* словом, не содержащим /.
Пусть существует слово X, такое, что df(X) = 0 и
XCJ-iEjCt... nEjX-i S. Tj-iffJ ... ГЯ,/,
Тогда по лемме 5m = l и найдутся слова ¥.{аг,. . .,ап, s), Z.(bv. . .,bn, s2),
такие, что
Т^ХС1 -L Ylt
* 2 ^1^2 == -*2»
(12)
где Y. получаются из Y. заменой букв ах, . . ., ап, s на буквы bv ..., bn, s,
соответственно, a Z{ получаются из Z. обратной заменой.
Исключая X и учитывая, что G = Gf * G'\ получаем систему:
T?lmCx 2L Yv
S-Y.E, SL Zl,
T2 Z1C2 = У2,
(13)
HmYmEm = Zm,
эквивалентную системе (12). Необходимым условием разрешимости
системы (13) является разрешимость каждого уравнения системы.
Рассмотрим уравнение
KZi-xCi = Yt. (14)
(Уравнения другого типа разбираются аналогично.) Ясно, что уравнение (14)
эквивалентно следующему уравнению:
Ti = Zi_1(a1, ..., ая, B(av . . ., ап, ^C.FT^^, . . ., ап, В(аг, .. ., ая, q)).
Это уравнение разрешимо тогда и только тогда, когда Т. принадлежит
двойному смежному классу РС.Р, где Р = {av . . ., ап, В (av ..., ап, q)}.
Согласно следствию 1, мы можем узнать, разрешимо ли это уравнение
и, если разрешимо, найти слова N. (а17 . . ., ап, s), М. (аг, . . ., ап> s), такие, что
Т.^М,(аг, ..., ая, 5)C,7V,K, • • -, ал> *)•
117

Если уравнение (14) не имеет решений, то слова С, Т не сопряжены в G.
Если имеет, то, подставляя выражение для Т. в (14), получим
NT К ...,*„,*) С? М? К, ..., ans) Z^C, SL Y.
или
СТ'МТ' К, ...,a.,s) Z^C. £. N{ (uv ...,an,s) У.. (15)
По теореме Молдаванского, так как С. не принадлежит в G1 подгруппе,
порожденной аг, ..., ап, s, уравнение (15) эквивалентно системе из двух
уравнений:
(Н4, Q4 — фиксированные слова в алфавите av . . ., ans, и, поскольку G'
тривиально изоморфна свободной группе, они эффективно находятся).
Следовательно, либо система (13) не имеет решений и слова С и Г не
сопряжены, либо система (13) эквивалентна системе
(16)
P-'Y ==Z>».
mm m
D Z = /»*».
mm ^^ m
Из (15): У. = УУТ^*, следовательно, F. = iVT^Z. == D'1!^
следовательно, Z,. ^ZT1/^*. Подставляя выражения для Т. и Z. в (16), получим
следующую систему показательных уравнений в свободной группе:
P~lN~lOx™ — Lw™>
m m^m m '
Поскольку существует алгоритм решения показательных уравнений в
свободной группе, то можно проверить, имеет ли эта система решения. Если
имеет, то слова С и Т сопряжены в G, если не имеет, то не сопряжены.
2) Для определенности рассмотрим случай, когда слова С и Г не
содержат букву р (все остальные случаи аналогичны). С — Т тогда и только
тогда, когда найдется слово Z (аг, ..., ап, р, q) такое, что
Z(av ...,ая, TV/, q) CZ^ (av . . ., aH, t'pf, q) ^ Г.
Без ограничения общности можно считать, что слово Z приведенное.
Тогда либо Z не содержит букву р и слова С и Т сопряжены в свобод-
118

ной группе, либо слова сопряжены тогда и только тогда, когда найдется п
такое, что система
zn+ic(ai, • • •> ап> Q)zn+i = xn(av • • •» ая, s),
ZnXn(bly ..., Ья, *1)2?£-Хя_1(Ь1, . .., Ья, s.J,
Zn-lXn-l K> • • -> an> S) Zn-1 = Xn-2 (aV • • •> an> S)>
(17)
Z1X1 (av ...,an,s) Z~l SL T (av . . ., an, q)
имеет решение. Отметим два свойства системы (17).
1) Если {Z?, ..., ZS+i, XI ..., XI) решение и^Х? -??,.. ^ *£ - £*,
то можно подобрать такие Z?, ..., Z°+i, что набор {ZJ,..., Z£+b XI, . .., Х£}
также является решением системы.
2) Если система (17) имеет решение {ZJ, .. ., Z°+i, X?, . .., Х%), такое,
что X°i(ax . . ., aw, s) ~~ X?+i (ax, ..,, an, s) при некотором i, то система (17)
при п1 =п — 2 также имеет решение.
Будем искать решение системы (17) при условии, что п выбрано
минимальным. Тогда, если {ZJ, ..., Z£+1, Х\, .. ., X®} решение системы, то
X°.(av . . ., ап, s) т6 X°i+1 (av ..., ап, s) ни при каком i. Но если (ZJ, ..., Z°+1,
XJ, . . ., Х%) — решения системы (17), то
Z°n+1C(ai, ..., а„, q)(Zl^~Xl{av ..., а„, B(av .. ., а„, q)),
Z°„X°(bv ..., Ь„ A(bv ..., bn, p))(Z«Xl=X,^{bv ..., b„, A(bv ..., b„, p)\
Z^XlMv ■ ■ •> *„ В(аг,.. .,an, q)){Zl_y = X^{av ..., a„ B{av . . ., a„ q))
(18)
Z\X\ (av ...,a„, В (av ..., an, q)) (Z^~T (av ..., o„ q).
Без ограничения общности можно считать, что слово
A(bv ..., Ья, р)^Р*А'р* (е, ij=±l).
Тогда согласно следствию 2 А :°= A^Al1, др(А0) = 0; Вz°: B1B2BQB~1B3;
dq (Bx) = dq (B0) = dq (B3) = 0 и слово В2 начинается с буквы q. Кроме
этого, из второго уравнения следует, что X®(bv . . ., bn, sx) либо
сопряжено Ак> либо сопряжено sk, при некотором к. Пусть для
определенности X%(bv .. ., Ьп, 5Х) сопряжено А\ (второй случай аналогичен). По
свойству 1) можно считать, что Xl(bv . . ., bn, s^nzA^. Тогда, согласно
следствию 2, Xl_1(bv ..., bn, sj сопряжено sk.
По свойству 1) можно считать, что Х^ (bv . . ., bn, sjzizs*. Тогда
Х^_х{аъ .. ., ап, s)zoisk. С другой стороны, из третьего уравнения и
следствия 2 вытекает, что Х^ (аг, .. ., ап, s) должно быть сопряжено (B^sBa1)*
(оно не может быть сопряжено слову 5J, так как равно sk). Это возможно
только, когда B1i°zBs1^ Тогда по следствию 2 X%_2(av . .., ап, s) =
= Bk(av . . ., ап) (мы использовали свойство 1) Х®_2 (bv . .., bn, sx) =
==В$(Ьг . . ., bn). С другой стороны, Х^2 должно быть сопряжено А**, при
119

некотором целом kv (Ясно, что слово В%(Ь19 . . ., Ьп) не может быть
сопряжено s*k) Следовательно, найдутся такие слова L, Lv что L — Lv
B0(bx, ..., ЬЯ)==М, A0(bv ..., bn) = L'* при некоторых t19 t2. Тогда кг =
= к-^. Продолжая рассуждения, получим, что
Следовательно, система (17) разрешима, если найдутся целые кап, такие,
что С~А*(а1, ..., а„),
T~B(av ...,a„,q)^) .
Но в свободной группе это можно проверить. Теорема доказана
полностью.
ЛИТЕРАТУРА
1. W. Magnus, Uber diskontinuerliche Gruppen mit einer definierenden Relation (Der
Freiheitssatz). J. reine und angew., Math., 167, 1930, 141—165.
2. W. Magnus. Das Dentitatsproblem fur Gruppen mit einer definierenden Relation.
Math. Ann., 106, 1932.
3. В. B. Newman. Some results on one relator groups. Bull. Amer. Math. Soc, 74, N 3,
1968.
4. A. Karrass, D. Solitar. On finitely generated subgroups of a free group. P. A. M. S.t
22, 1969.
5. /. H. C. Whitehead. On equivalent sets of elements in a free group. Ann. Math., 37r
1936.
6. M. Холл. Теория групп. ИЛ, 1962.
7. Ю. И. Хмелевский. Уравнения в свободной полугруппе. Труды Матем. ин-та
АН СССР, 107, 1971.
8. П. С. Новиков. Об алгоритмической неразрешимости проблемы тождества слов
в теории групп. Труды Матем. ин-та АН СССР, 44, 1955.
9. /. L. Britton. The word problem. Ann. Math., 77, 1963.
10. D. Collins. Recursively enumerable degrees and the conjugacy problem. Acta math.,
122, № 1/2, 1969.
11. Д. И. Молдаванский. О нормализаторе некоторых подгрупп группы, заданной
одним определяющим соотношением. IX Всесоюзный алгебраический коллоквиум
(резюме научных сообщений). Гомель, 1968.
5-3)

3. И. КОЗЛОВА
R-ОПЕРАЦИЯ С ПОЛНОЙ ГЛУБИНОЙ ЦЕПЕЙ
НАД НЕСЧЕТНЫМИ СЕМЕЙСТВАМИ МНОЖЕСТВ
А. А. Ляпуновым [3] изучена Д-операция над произвольными
системами множеств с глубиной цепей о). Мы изучим Д-операцию с полной
глубиной цепей a)v над системами мощности т = $v исходных множеств^
когда т есть сильно недостижимое кардинальное число. (Число т
называется сильно недостижимым кардинальным числом, если (Vm, п<Ст)
[ntn<CTJ и (^fl]>0) [та=-т-2а], [1], стр. 235.) Мы здесь опираемся на
гипотезу существования сильно недостижимого кардинального числа > $0.
Пусть / = (0 — пространство индексов, card 7 = т = $v, где т — сильна
недостижимое кардинальное число. Множество fjC/ называется цепью,
Е = {7]|тг)С/}—пространством цепей, М С S — базой. Пусть 91—
основное пространство, подмножества которого изучаются, ^>91 = {М | М С 91},
V — совокупность всех ординальных чисел, упорядоченных по
возрастанию, Kt — совокупность всех непредельных, Ки — совокупность всех
предельных чисел из V.
Упорядоченное множество индексов Y =<70, . . ., ia, . . ., | у)> = (г2)т
пространства индексов 7 при у<°\ называется кортежем ранга у=р(У).
Множества W == {Yy\ у <С%} и W^ = {Yy | у<и = «>х^%} мы назовем
пространствами кортежей. При т сильно недостижимом card W = z
и card WQ = т.
Рассмотрим семейство баз 95? = (Nt) \J (^V(»a)T), где i £ 7, (ia)y£ W. Будем
говорить, что индекс i подчинен индексу /, если i £ т] £ /Vy, индекс i
подчинен последовательности (ia) , если г £ ?] G ^(*«)т> T б ^п- Можно считать,
что среди последовательностей, нумерующих базы семейства 9У1, имеются
такие и только такие, у которых каждый индекс га+1 подчинен
непосредственно ia, а гт при у £ Ки подчинен последовательности (ia) . Такие
последовательности мы назовем согласованными. Множество всех согласованных
последовательностей типов у < cov, у £ i£IT, мы обозначим Wc^. При т сильно
недостижимом card Wc^ = т. Положим S = 7 U И^сде. Если р £ ^<зя, * С Р>
то обозначим через р#. часть р без индексов, которым i подчинен.
о-конъюнктивным расширением АГ-операций с базами
семейства (3ft==(^VPa)a6gl где u = o)X^a)v, мы называем семейство АН-операций^
базы которых М\ при a £ £ определяются следующим образом:
121

Положим 9ft (о) = (Ml)aes. Каждая цепь базы и-конъюнктивного
расширения Ml представляет собой дерево или ветвящуюся систему с корнем а.
Каждая цепь такой ветвящейся системы с корнем а есть согласованная
последовательность индексов типа и, называемого порядком или глубиной
ветвящейся системы.
Пусть {Е^ j — произвольное семейство множеств пространства 9Z,
<3ft = (iVa)a65, где /VaCS. Определим производные множества данного
семейства множеств. Положим
Е°* = Е„ Я?ут= П Eia, Е1=Та.ст{Е°} = Фк{Е.} при a£S [2].
«<т
Если определены производные множества (i?2)a€5, то построим семейство
баз (Nl)ae8 следующим образом:
n6^=№eA'rp)[t»cii&(V8G^gR)[(e6/^p(y=««',&8ecp)V
V (« 6 Ww -> р (8\a) = «Р & 8 с ц) -* (ЗУ 6 ЛГ,) [V С iffl],
и положим
К+1 = Т.. {n,} <JSg> = ФзНМ {Я,-} при a б 5.
Если определены производные множества (Е1)-8 при всех p<x<a)v,
x£i£n, то положим
JE2= П -ЕР при a £ S.
Построим семейство баз (N£)ae8i исходя из баз М« при a £ S, и положим
^-+1 = Т«; (К) № = Ф**» iEt) ПРИ a б 5.
г к aj a
Таким процессом мы построим производные мнажества (Е%) 8 при всех
J3<[(ov. Положим
2С= пя5-
P<tov
Повторив весь процесс дифференцирования множеств, отправляясь
от семейства множеств (Е^\е8, как от начального семейства множеств,
получим семейство производных множеств (Z?£v2) 5. Дальнейшим
повторением этого процесса мы получим производные множества (Еа \е8 при
POv+i- ПУСТЬ
Так как последовательность цепей
Г* (х) 3 Г**2 (*) 2 ... 2 »*** (*) 2...
це возрастает, card 5 = $?v> a саг(* °\+1= ^v+i> T0
(Эа0 < cov+1) (Vp > а0) [Г^ (х) = »""- (х)].
Стабилизированную цепь ^'^(х) мы обозначим Г*^1 (ж) = »^+1 (ж).
Назовем (cov) 21а.о^ — операцией над семейством множеств (E.)ieJ
с семейством баз 9К = (Л^а)а65 операцию
(3<(ov+1 P<<"v+i
122

Теорема 1. Семейство АН-операций ((cov) Ta. с%л есть со
^-конъюнктивное расширение АН-операций с базами семейства 9ft.
Действительно, применение Га. оде-операции к семейству множеств (Е.)
приводит к AS-операции Ф^с глубиной цепей со. Если построена опера-
ция ФМ<»Р с глубиной цепей аД то операция Ф^ имеет глубину цепей
а а
<ор + 1. Применение операции Та. (Np\ к семейству множеств {E?)ieJ
приводит к Д2-операции Фж00(з+1 с глубиной цепей со13*1"1. Если построены все
а
операции Фм^ при Р <С * £ %iv то Щ$.= П ^« и база /V* строится, исходя
из базы М* с глубиной цепей а>\ Цепи базы /V* имеют глубину а>* + 1.
Тогда применение операции Та. г^л к семейству множеств (£«)аб5
приводит к АЕ-операции Фжшх+1 с глубиной цепей сох+1.
а
Рассматриваемый процесс приводит к двухстепенной переработке
множеств: переработке баз Г-операций путем углубления их цепей с со* до
о)а+1, где o)a<[(Dv, и затем переработке полученного семейства
производных множеств при помощи Г-операций с полученным семейством баз.
Этот процесс стабилизируется, в силу чего каждая цепь 8- (х) = {i | (Vp <
<С%+г)1х^Щ]} содержит в себе цепь базы M?v £ 3ft (<*>v). С другой
стороны, каждая цепь базы МТ является цепью операции
Замечание 1. Можно довести трансфинитный процесс переработки
множеств при помощи Г-операций с переменными базами до любой
глубины o = o)X^o)v или u = a).X^(ov. Г-операцию с глубиной цепей u^cov
мы обозначим (о)Га.о^ при a £S.
Замечание 2. Можно рассматривать (u>v) Г-операцию с заданным
исходным семейством баз 9ft = (Na)a6£ и произвольными переменными
базами (N^\ 8 вместо баз (N^) 8 при р <[ a>v, получаемых вышеошхсанным
способом, лишь бы при Л-итерации операций с этими новыми базами
происходило углубление цепей Г-операций, причем так, чтобы после
стабилизации база Г-операции имела глубину цепей a>v. Если мы положим
Q = (7У*3)аб5 ? где /V*0 = Na, то соответствующую операцию мы
обозначим (a)v) Tq.
Рассмотрим теперь семейство баз £ = (-Pa)a6S, где Pv С Е. Пусть Q С Э,
^Е(?» i(*&' Если индекс / подчинен i или (ta) , то будем говорить, что
порядок этого подчинения равен 1. Если ; находится в подчинении а-го
порядка к i или (ij , то индексы, подчиненные /, находятся в
подчинении a + 1 порядка к индексу i или (ia) . Индексы, подчиненные
согласованной последовательности i, iv ..., ia, . ..,|х, *£ЛГП, находятся в
подчинении порядка к к индексу i. Заменим индекс i некоторой цепью ч\ (< Р4;
положим XJ ===== ttj. Если индекс i замещен семейством индексов X* и при
этом хотя бы один индекс /£Х", находящийся в подчинении порядка a
к индексу £, замещен цепью т\ £ Р •, то мы скажем, что индекс i замещен
сехмейством индексов Х"+1. Если индекс i замещен семейством индексов X"
123

при любом а<^у. <«>v, xgiiTjp и если хотя бы одна цепь S^Wo^ такая,
что i (< 8, 8\8< — цепь последовательно замещенных индексов, р (8\8J = хт
замещена цепью ч\(<Р8, то мы скажем, что индекс i замещен семейством
индексов Ц(Ж> = (Р%ез,, S' = JUWW).
о-дизъюнктивным расширением А2-операций с базами
семейства (£ = (jPa) ^ где u = a)X^(ov, назовем семейство Д2-операций, базы
которых QI при a £ й7 определяются следующим образом:
»e^=(«G/-*» = {«})V («6^-**€«) V
v (зо' е <?:) (яг е»') <ят < о) (Щ $=(Ь'\щ) и \]j.
Пусть (&i)ieJ—произвольное семейство множеств. Построим
производные семейства множеств. Положим
£? = £,-, £?,а)т = . U S{, Si = Г.6 {£,.} = Ф^ {£,.} при a G 5'.
Если определены производные множества (<§i)aeSr, то построим семейство
баз (-Р«)аб5, следующим образом:
V (Я»' б <?Л (Я* б »') (ЯТ < «Л (ЯХТ) t& = (&'\(0) U Ц].
Положим
^+1 = К (р.П <<Ф = V+1 Ш при а б 5'.
Если определены производные множества (<?«)ае5, при всех P<CX<C(0V>
х £ ЛГП, то положим
<£= U <£ при a G 5'.
(3<х
Построим семейство баз (-Р«)аб5/.
»G^=(«€/-»» = {«})V(«€WrgR'-*«€») V
V (Яд' б <?f) (Я* б »') (ЯТ < о)") (ЯХ][) to = (»'Ч{*}) U $1,
<&» = Г. {р,} {£*} = Ф т«+. {<?,} при а б S'.
и положим
-л+1
Таким процессом мы построим производные множества (<?«)аб5, при всех
p<a)v. Положим
<С = U £«•
(3<oov
Повторив весь процесс дифференцирования множеств, отправляясь от
семейства множеств (<5av)ae/S,~> как от начального семейства множеств,
получим семейство производных множеств (£av* Xps'' Дальнейшим повторением
этого процесса мы получим , производные множества (<§£v* )аб5, при р <
<4+i- ПУСТЬ
Так как последовательность цепей
Г* (х) С Г*'2 (а:) С ... С О"*"" (а:) С ..
124

не убывает, card S'= tfv, card u>v+1 = tfv+1, то
(Эа0 < <ov+1) (Vp > a0) [»«"■"• (x) = **** (x)].
Стабилизированную цепь 0Wv'a°(^) мы обозначим 0Wv+1 (x).
Назовем (cov) Tca. @-oперацией над семейством множестг* (<§t)ieJ с
семейством баз (Е операцию
К) «;<&{<£<}= U S:^= U £« = £«v+1.
P<<"v+i P<<"v+i
Из определения (о\) Г- и (ujv) Г^-операций легко следует
Теорема 2. £о/ш g. = CEi при i£J, <£ = Ж = (№Хе8, то
С К) Та.ш{Е<) = К) Г*, дд. {СЯ,.} = К) Га. 6 {с?,.}.
Отсюда, учитывая строение баз дополнительных операций, получаем
Следствие. Если (Е = <2J?C = (Л^)ае5, то семейство АН-операций
((°\) ^а-@) есть a)v — дизъюнктивное расширение АН-операций с базами
семейства (L
Для (a>v) Га.о^-операции над семейством множеств (Е{) j можно всюду
определить внешний индекс:
(ov+1, если х£Е7+\
Wra™Jnd(*|{2?J):
р, если *6П ^'\^ P<«\+i-
Э'<3
При таком определении внешний индекс (cov) Га. с^-операции никогда
не бывает предельным трансфинитным числом. Множество
{*lK)7..g»Jnd(a:|{^}) = p}= П ^'\^
мы назовем внешней (cov) Га.с^-конституантой номера (3 семейства
множеств (Е^ j. Внешние (соу) Га.с^-конституанты семейства множеств (Е{).е^
соответствующие предельным трансфинитяым числам <a>v+1, пусты.
Внутренний индекс (a)v) Годе-операции определен в точках х£2?оv+1*
Он равен наименьшему из чисел |3, таких, что строение семейства
множеств (Е*) j остается неизменным при всех а ^ [3. Положим Z?t. = П ^у>
где пересечение берется по всем индексам /, которым i подчинен,
включая индекс i. Обозначим через CU* множество всех точек, которые
одновременно входят или не входят в каждое из множеств Е\ и №"*:
CU* = п ((Я? П Щ+1) U (СЕ\ П СЕ^)) =
*
= {* I К) Уд» Jnd (г | {#<}) < Р} U {* I К) Тш Jnd int (* | {Et)) < Р}.
Тогда
Е\ П Ctf" = {* I К) Гек Jnd int (х | {Et)) < p),
(x | (»,) Гэд Jnd int (x | {£,.}) = P} = ^ П (CC/p\ U CU«) = El П ( П £T\ffp),
где
C7a = у P • П СЯГ1) П (ЯГ1 П CE%
125

Таким образом,
К) Гад Jndint(a:| {£,}) = ?,
если х е Щ П (П U«\U\ где W = U (<& П CEf1) U (ЯГ1 П <ЭД.
Множество
{х | («>,) ГЭД Jnd int (х | {Я,}) = Р} = -Eg П (jn U«\U?}
называется внутренней (a)v) Го^-к онституантой номера р семейства
множеств (Ei)j£j.
Внешние и внутренние (a>v) Гс^-конституанты семейства множеств
(Ei)jej получаются из этого семейства с помощью итераций в числе
>JV+1 операций (J» П » дополнения, (со • X) Годе-операции при X<a>v.
Для (cov) Годе-операции имеет место принцип сравнения индексов, как
и в случае Л-операций с глубиной цепей со [3]. Доказательство его
оформляется в специальной статье. Специальные типы (a>v) Гс^-операций
равносильны (a>v) Доде'-операциям.
ЛИТЕРАТУРА
1. Н. Бурбаки. Теория множеств. М., «Мир», 1/965.
2. А. А. Ляпунов. Об операциях над множествами., допускающих трансфинитные
индексы. Труды Моск. матем. об-ва, 6, 1957, 195—230.
3. А. А. Ляпунов. Об операциях над множествами. Алгебра и логика. Семинар, т. II,
вып. 2. Новосибирск* 1963, 47—56.

О. Б. ЛУПАНОВ
О СЛОЖНОСТИ УНИВЕРСАЛЬНОЙ
ПАРАЛЛЕЛЬНО-ПОСЛЕДОВАТЕЛЬНОЙ СЕТИ ГЛУБИНЫ 3
Автором было установлено [3], что минимальное число контактов,
достаточное для реализации посредством параллельно-последовательной
контактной схемы (П-схемы) любой функции алгебры логики / (хг, . . ., хп),
асимптотически равно 2n/log2n. E. А. Кондратьева установила [1], что
эта оценка достигается на схемах, получающихся при каждом п из одной
сети. Для уточнения формулировок результатов введем следующие понятия.
Двухполюсная сеть S называется п-универсалъной, если для любой
функции / (хг, . . ., хп) существует расстановка по ребрам сети S символов
£v • *ixn-> хп- • ">хп (быть может, с повторениями; некоторые символы
могут не использоваться), превращающая S в контактную схему,
реализующую /(#!,. . .,#„). Пусть U(n) — минимальное число ребер в
^-универсальной сети. Тогда результат Е. А. Кондратьевой может быть
сформулирован следующим образом:
on
v f log2 n '
причем эта оценка достигается уже в классе
параллельно-последовательных сетей (П-сетей).
Определим по индукции следующие классы сетей.
2v=2& содержит одну сеть, состоящую из одного ребра.
Класс 2v (^^1) определяется следующим образом:
(2) если £i£2v» ^2G2v и сетъ $ получена в результате
параллельного соединения сетей S± и S2, то 5£2^>*
(3) 2^ не содержит никаких других сетей, кроме предусмотренных
п. (1) и (2).
Класс 2& определяется двойственным образом.
СО / СО СО \
Пусть, наконец, 2°°= U 2\У (очевидно, что U 2v = U 2& • Таким
fc=0 \ fc=0 fc=0 '
образом, класс 2°° есть KJiacc всех параллельно-последовательных сетей.
Пусть U\/(n) (соответственно U\{ri)y С/°°(^г)) — минимальное число
ребер в ^-универсальной сети из 2v (соответственно из 2&» 200)1*
Очевидно, что Ufy (n) = U\ (п). Это общее значение обозначим через Uk (n).
1 Здесь к > 2. Очевидно, что при этом условии такие сети существуют. При k—i
универсальных тг-сетей не бывает.
127

Ясно, что
U2(n)^U3(n)^ ... >C/°°(rc). (1)
Из уже сказанного следует, что
С/оо/^^21. (2)
Из доказательства теоремы Е. А. Кондратьевой следует, что
on
иЦп) L
iog2n'
А. Д. Коршунов показал, что
on
U4n)~J—.
v J log2n
Целью настоящей заметки является доказательство следующего
утверждения.
Теорема.
on
v ' log2n
Заметим, что дальнейшее уменьшение «глубины» к (с сохранением той
же асимптотики) невозможно: как известно, функция хг + . . • + #я(тос12)
имеет сложность п2п~1 в классе параллельно-последовательных схем
глубины 2. Из известных результатов следует, что
U*(n) = n2r\
Доказательство теоремы. В силу (1) и (2) достаточно
показать, что
ои
Метод построения соответствующей сети получается путем переделки
метода [4] (§ 4). Как и в [4], множество наборов
(<*!, а2, . . ., (xd), (ctp а2, а3, . . ., аД . . ., (ах, . . ., аа_г, &d)
будем называть сферой с центром (av . . ., arf). Пусть q>(uv . . ., »rf) —
характеристическая функция этой сферы. Тогда
срк ..., ud)u*t = u?...<_->«^y..• »«/ (i<*<<*). (3)
Нетрудно убедиться в справедливости равенства
где
Поэтому <р может быть реализована схемой с сетью из 2&» имеющей d2
ребер.
Как известно (см., например, [5], стр. 75—77), в случае, когда d —
степень двойки, множество всех наборов длины d можно разбить на
попарно не пересекающиеся сферы. Пусть
ср.(и), l<*<.jf
— характеристические функции этих сфер.
128

Пусть теперь f (xv . . ., хп)— произвольная функция алгебры логики.
Обозначим наборы аргументов
(#!, . . ., Ха), \Ха+1, . . ., Ха+Ь), \Ха+ь+1, . . ., Xa+b+c), \Xa+b+c+v . . ., Xa+b+c+d)
соответственно через х, у, £, й (а-\-Ь + с + d — n; d— степень двойки).
Пусть
Будем обозначать через K*(v) конъюнкцию v^...v^ (v = (v, . . ., ит) —
набор аргументов, р = (Рх, . . ., Рт) — набор их значений). Легко видеть, что
f(x, д, Z, й)= у_K9(x)K$(g)fit9t$(2, й).
*'» ^ р
Функция /»-,&, р(£, #) принимает значения, отличные от 0, лишь на
наборах вида
(<W.---. <W. «{°. •••' ай> *i°. affi- ••- ai°)
(здесь са+й+г есть 0 или 1 при 1 ^r^c; (a{4), . . ., a{J])— центр i-й сферы,
l^Z^d), и поэтому может быть задана таблицей.
12 ... I ... <Z
xa+b+l
xa+b+c-l xa+b+c
0
0
aa+b+i
1
. . о
. . 0
• • Ga+b+c-l
. . 1
0
1
Ga+b+c
1
>
4
Sr < 5
/if»fp(°e+*+l Ga+b+c> ai°> ...» «Д1» ai°> «#Ь
, «$"
Строки таблицы соответствуют наборам (aa+ft+1, . . ., аа+й+с), столбцы —
наборам i-ш сферы (d штук). Разобьем строки матрицы Л/, определяющей значения
функции, на полосы Лх, . . ., Л , содержащие по 5 строк (последняя
полоса может содержать меньшее число строк). Очевидно, что
Пусть fit з, р, & — функция, совпадающая с Д-,5, р на полосе 4fc в М и
равная 0 вне этой полосы. Столбцы матрицы, соответствующей функции
/», з, р, й, разбиваются на множества одинаковых между собой столбцов.
Пусть Bif9, p, fc,x — множество столбцов, равных т (в полосе Л^). Следуя
А. Д. Коршунову [2], введем параметр q и разобьем каждое множество
Biy 5, р, к,х на подмножества (быть может, пересекающиеся) В{, 3, ^ *, «g, w,
содержащие по q столбцов. Если множество содержало t столбцов, то из
него получится — ^—(-1 подмножеств. Будем считать, что при любых
129

фиксированных t, 3, p, к общее число подмножеств одно и то же и равно
N. Тогда
\ q '
Перенумеруем теперь (при фиксированных i, 5, р, к) подмножества
Bi, 9,ьъ,ч,т, вводя новый индекс /: Bi§ 3, р,кшу, 1</<7V. Пусть /ьз,р,*,у
есть функция, совпадающая с /;, 5, р, к на подмножестве столбцов 2?ь 5| р, &, у
и равная 0 в остальных случаях. Матрица для функции /ь 5, г, je, i имеет
столбцы двух сортов:
а) столбцы из Bita,p,k,j, равные некоторому набору т(г, 3, р, &, ;)
в полосе Ак и состоящие из нулей вне Ак;
б) остальные столбцы, состоящие сплошь из нулей. Поэтому эта
функция может быть представлена в виде конъюнкциии двух функций,
зависящих соответственно от а и от z:
1) функции /^з, р, л, у, равной 1 на столбцах из -S», з, р, л, у и равной О
на остальных столбцах;
2) функции /if э, р, л, у, в матрице которой все столбцы равны т (i, 3, р, &, /)
в полосе Ак и состоят из нулей вне Ак.
В силу (3) функция Д1}Э| р, л, у может быть представлена в виде
ft)U.*.j(*) = bWflV*.h*.A*)> (4)
где
#?*, р, л, у {Щ = V *£+■*+«+*
(дизъюнкция берется по множеству номеров I столбцов из Biy 9t pt к} /t
их q штук).
Учитывая (4), получаем равенство (ср. с (12) в [4])
/ (х, у, z, и)= V К* (*) #р (У) 9* («) ПХ р, *. у («) Я?1*, р. *. / (в). (5)
*» 5, р, Л, у
Рассмотрим функции
^^,у^^)=у^ш/ам,,-(^
^•, 5, *, у (У, Я) = V К? (У) /1?», р, л, У (Я).
р
Пусть Dp(y) = Kp(y) (это — дизъюнкция переменных или их отрицаний).
Легко проверить, что
К., *. , (у, а) = & (Dp (у) V f?X p, *, у (а))
Р
И
V #р (У) fi'k р, л, у (^) А3*, р, л, у («О = gi. *, *. у (0. ^) Л,,,, *, j (у, я).
р
Поэтому из (5) получаем
f(x, у, z, и) = у ^ Кв(£) Ь (и) gi> в> btJ (у, z) & (Д. (у) V /(f)8| p> >t y (g))
' —^—— '
' ^—^ (6)
^ ь 3, k, y, Zj&
130

Будем строить П-схему для /, выбирая подсхемы для выделенных
в (6) подформул так, чтобы их сети принадлежали указанным в (6)
классам, а сложность удовлетворяла следующим условиям:
£ (П *,*,/) = 2* (*<7 + Ь);
L {F\, э, к, j) = 2Ь+С (Ъ -\- с) (к. н. ф. для функции от Ъ -+- с аргументов);
L(F}) = dH
L(F8ite,k,j) = 2b(q + b + 2°(b + c)) + d* + a;
L (F9)=£. 2apN (2b (q + b + 2" (b + c)) + d2 + a) <
<?-2a(?+1)(l")"28)(2J(9 + 6 + 2C(6 + c)) + d2+a)'
Очевидно, что построенная таким способом П-схема имеет сеть,
зависящую (при фиксированном п) только от значений параметров. Глубина
ее равна трем. Положим
Ъ = [2 log2 и], с = [2 log2 log2 n\ d = 2[1о*° "^
? = Llog| >*], * = [log2 ^ — 5 log2 log2 n].
Тогда
Поэтому
3 3
a + d8-»0 ±_^0 ^^0
v ' ^=> s Iog2 /г
Теорема доказана.
В заключение автор выражает благодарность В. М. Храпчеяко,
внимательно прочитавшему рукопись и сделавшему ряд полезных замечаний.
ЛИТЕРАТУРА
1. Е. А. Кондратьева. Об универсальных П-сетях для функций алгебры логики от п
переменных. Сб. «Проблемы кибернетики», вып. 14. «Наука», 1965, 5—16.
2. А. Д. Коршунов. Об асимптотических оценках сложности некоторых классов
контактных схем. «Кибернетика», № 2. Киев, 1965, 18—28.
3. О. Б. Лупанов. О сложности реализации функций алгебры логики формулами.
Сб. «Проблемы кибернетики», вып. 3. М., Физматгиз, 1960, 61—80.
4. О. Б. Лупанов. О реализации функций алгебры логики формулами из конечных
классов (формулами ограниченной глубины) в базисе &, V, —. Сб. «Проблемы
кибернетики», вып. 6. М., Физматгиз, 1961, 5—14.
5. О. Б. Лупанов. О синтезе некоторых классов управляющих систем. Сб. «Проблемы
кибернетики», вып. 10. М., Физматгиз, 1963, 63—97.

А. А. ЛЯПУНОВ
О МЕТОДЕ ТРАНСФИНИТНЫХ ИНДЕКСОВ
В ТЕОРИИ ОПЕРАЦИЙ НАД МНОЖЕСТВАМИ
К началу Великой Отечественной войны классическая теория А~мпо-
жеств и проективных множеств была завершена. Основным методом их
изучения были трансфинитные индексы решет или А -операций, введенные
Н. Н. Лузиным, и принцип сравнения индексов, установленный П. С.
Новиковым [8, 22, 31].
С другой стороны, была создана общая теория операций над
множествами, основные определения которой были даны А. Н. Колмогоровым,
а наиболее существенные результаты были получены Л. В.
Канторовичем и Е. М. Ливенсоном [3, 28].
Одним из наиболее интересных понятий этой теории были .й-операции.
По сути дела .й-операция есть некоторое регулярное усилие произвольной
исходной 8§-операции. Если провести подобное усиление операции U» то
получится Л-операция, а аналогичное усиление операции,
дополнительной к Л-операции, даст .^-операцию, однократное применение которой
покрывает трансфинитное применение Л-операции и взятия дополнений.
Если применить один раз /^-операцию к открытым множествам, то
получится класс множеств более широкий, чем класс всех С-множеств, и
входящих в класс 2?2-множеств. Внимательное рассмотрение строения i?-onepa-
ций показывает, что они в некотором смысле являются естественным
обобщением Л-операции. Под влиянием П. С. Новикова у меня явилось
желание более детально разобраться в строении Л-операции и сделать
попытку для этих операций построить аппарат трансфинитных индексов.
Из-за войны реализовать этот замысел удалось лишь в период 1946—1949 гг.,
когда мне было представлено место докторанта в Математическом институте
АН СССР им. В. А. Стеклова. П. С. Новиков, под руководством которого
я работал до войны, согласился быть моим консультантом. Он оказал
решающее влияние на ход моей работы, результаты которой сводятся к
следующему.
Л-операции удалось представить в виде трансфинитного процесса,
отдельные шаги которого представляют собой применение более простых
^-операций. Это позволило определить трансфинитные индексы i?ronepa-
ций, вполне аналогичные трансфинитным индексам Л-операций, и
показать, что множества точек, где эти индексы ограничены, получаются путем
более простых Ss-операций, чем рассматриваемая Л-операция. Отсюда
132

непосредственно следует, что все Л-множества представляются в виде
объединений не более чем ^х попарно непересекающихся Л-множествг
что они измеримы и обладают свойством Бэра. При этом Л-множества
определяются так: рассматривается наименьший класс Ss-операций,
содержащий операции U, переход к ^-операции, дополнительной к данной,,
и построение Л-операции, являющейся усилением операций данной
системы. Л-множествами называют все те множества, которые получаются
из открытых множеств при помощи операции описанного класса. Для них
можно построить трансфинитную классификацию, аналогичную
классификациям В- или С-множеств, однако каждый новый класс строится уже*
посредством новой операции. Он оказывается существенно более широким,
чем объединение всех предыдущих. Начальная операция есть операция П-
Далее следует Л-операция, которая является Л-расширением операции \Jr
дополнительной к П • Вообще, операция Л*41 есть Л-расширение операции
ЛаС, дополнительной к операции Ла. Для чисел у II рода операция Rr
есть Л-расширение операции, эквивалентной взятию пересечений
результатов применения всех Ла-операций а <С у к различным системам множеств.
В так построенной классификации множеств имеют место законы
отделимости и кратной отделимости, вполне аналогичные тем, которые имеют
место для А -множеств [10—17, 19, 20].
Имеют место также теоремы о вырождении результата применения
некоторой Ла-операции к множествам класса ЛЛа, т. е. множествам, которые
суть Л „-множества вместе со своими дополнениями. Эти теоремы
вырождения являются аналогами теоремы Лузина о том, что проекция
униформного Л-множества есть Л-множество [18].
Далее оказалось, что все Л-множества входят в класс Л2-множеств.
П. С. Новиков доказал, что существование неизмеримых Л2-множеств
непротиворечиво в смысле Гёделя [23]; в силу сказанного в том же смысле
непротиворечиво, что Л-множества не исчерпывают класса Л2-множеств,
однако в классическом смысле соотношение классов Л-множеств и Л2
-множеств до конца не выяснено. Оказалось, так же как и для высших классов
С-множеств, что аналоги принципа ограниченности индексов и теоремы
Суслина для классов Л-множеств, следующих за классом Л-множеств,
неверны. Имеют место также теоремы о неотделимости СЛа-множеств [15].
В то время,, когда я работал над этой проблематикой, П. С. Новиков
постоянно обращал мое внимание на то, что получаемые результаты
являются естественным обобщением фактов, известных в теории А- и
С-множеств, и что здесь не возникает сколько-нибудь неожиданных ситуаций.
Это постоянно побуждало меня к поискам новых типов операций над
множествами, которые существенным образом расширяли бы класс всех Л-опе-
раций, но сохраняли бы некоторые «хорошие» свойства множеств, в первую
очередь измеримость. В результате этих поисков удалось построить такие
операции, следуя идее П. С. Новикова о классификации эффективного и
используя одну конструкцию типа трансфинитной индукции, которая
в исходном виде была построена Лебегом и значительно усилена й
модернизирована К. Куратовским [29]. Эти операции существенно выводят за
пределы Л-множеств и сохраняют измеримость. Однако связь получаемых
множеств с проективными выяснить не удалось. Дело в значительной мере
133

в том, что эти операции уже не являются Ss-операциями, а относятся к
неположительным теоретико-множественным операциям. Эти операции также
сохраняют свойство Бэра и допускают трансфинитные индексы, однако их
более детальная теория не разработана до сих пор.
Весь комплекс описанных здесь работ по Ss-операциям, допускающим
трансфинитные индексы, можно рассматривать как естественный синтез
методов теории Bs-операций над множествами и методов теории 4-множеств,
основанных на употреблении трансфинитных индексов,
В работах Эрбрана, Черча, Поста, Тюринга, Клини и др. развилось
новое, теоретико-алгоритмическое направление в математике.
В большой мере на содержание этого направления оказали влияние
общие концепции, высказанные Н. Н. Лузиным, а также методы и
результаты, установленные П. С. Новиковым в дескриптивной теории множеств.
Впоследствии сам П. С. Новиков внес выдающийся вклад в развитие этого
нового направления. Он был первым, кто связал теорию алгоритмов с
классической математикой, установил алгоритмическую неразрешимость
классической проблемы тождества в теории групп [241 Алгоритмические
концепции оказались плодотворными при эксплуатации ЭВМ. Они явились
основой приложения математики к самым разным областям человеческой
деятельности в связи с использованием ЭВМ в этих областях. В настоящее
время они играют выдающуюся роль во всей математике.
Представляется интересным проследить в новом свете связь
алгоритмических концепций с дескриптивной теорией можеств. Здесь можно
отметить два подхода.
Первый состоит в том, что рассматриваются различные рекурсивные
иерархии множеств и их обобщения. В частности, Л-иерархии изучают
сейчас Enderton и Hinmann в США и В. И» Амстиславский у нас [1, 2,
27, 26].
Другой возможный подход состоит в разработке своего рода
квазиалгоритмической точки зрения на задачи классической дескриптивной
теории множеств. Мне не известны никакие работы в этом направлении.
Цель настоящей статьи состоит в том, чтобы привлечь внимание к
такому квазиалгоритмическому изложению теории операций над
множествами, допускающими трансфинитные индексы. Ввиду ограниченности места
мы изложим только основные определения и имеющиеся результаты,
отсылая за доказательствами к оригинальным работам. Кроме того, мы
сформулируем несколько новых задач, решение которых нам неизвестно.
Может быть, со временем это привлечет внимание кого-либо из более
молодых исследователей.
Мы имеем в виду определить некоторый класс Ss-операций над
множествами, которые допускают построение трансфинитных индексов. Для
этих индексов имеет место принцип сравнения индексов, вполне
аналогичный тому, который П. С. Новиков построил для 4-операций.
Множества, доставляемые этими операциями, отправляясь от открытых
множеств, заведомо охватывают все Л-множества. Эти множества
измеримы. Они обладают свойствами Бэра, для них имеют место теоремы
отделимости и кратной отделимости, вполне аналогичные тем, которые
известны для А- или С-множеств. Имеют место также соответствующие тео-
134

ремы о неотделимости. Эти множества, если они не счетяы, имеют мощность
либо континуума, либо $х. К сожалению, остается открытым вопрос
о том, выходят ли они за пределы Д-множеств и каково их отношение к
проективным множествам.
§ 1. Основные определения
1. Ss-операции над множествами.
1а. Множества I={i} или /={/} объектов i и /', называемых
индексами, суть пространства индексов.
16. Подмножества 6с/ или £с/ этих пространств назовем цепями
соответствующих индексов или просто цепями.
1в. Множества 6 = {9} или Е = {£} всех цепей, которые суть
подмножества определенного пространства индексов, назовем
пространствами соответствующих цепей.
1г. Подмножества МсЕ или N(Z® назовем базами
соответствующей природы.
1д. Мы будем рассматривать системы объектов, занумерованных
индексами из того или иного пространства индексов.
1е. Множества, над которыми определены те или иные операции, могут
быть какой угодно природы. Все они суть подмножества некоторого
исходного множества S. Через СЕ обозначим дополнение Е до S.
1ж. §5-о пе рация с базой /V, состоящей из цепей 6(<в над
системой множеств {Ei}i£j, определяется так:
1з. Ss-операция с базой № CZQ называют дополнительной к 8s-
операции с базой N, если для любой системы множеств {Ei}ieI имеем
Ф1Гс{Е4} = СФ1Г{СЕ1}.
2. Ss-трансформации систем объектов.
Нам придется различать трансформации систем баз и систем множеств,
над которыми выполняются операции.
2а. Системы объектов, занумерованных порядковыми (в частности,
натуральными) числами, мы назовем последовательностями.
Системы объектов, занумерованных кортежами натуральных чисел,
назовем таблицами. (Всегда рассматривается и пустой кортеж ().)
26. Систему множеств {СЕ.) = §с мы будем называть системой
множеств дополнений к системе {Е.} = £.
2в. Пусть дана таблица множеств § = {ЕПи ..., пк); назовем
конъюнктом этой таблицы таблицу множеств
К<§ — \Епи ..., rijcjj
где V(nv ..., nk)E£vm9e9nk = E.Enr ... ■ ЕПх пк,
и дизъюнктом этой таблицы таблицу множеств д§—[Епх njc}, где
V(nv ..., пк)Е)[и.тт9Пк = ЕЧЕП1\/ ... \/ЕПх пк.
2г. Если дана система баз 9Z = {^Л*ел то системУ баз 9^ = {Л^}*е/
135

назовем системой дополнительных баз к системе 91. Для определенности
можно считать, что все N9 суть полные базы.
2д. Пусть даны система множеств & = {Е£}.е1 и система баз 91 =
= {/V\}t.6/. Воздействие системы 91 на систему & определим так:
Ф* (S) = % = {Ef}, где Vi Ef = <DNi {Ev}.
2е. Д-трансформация с базой 9Z = {Nnu ..., пк} таблицы множеств
(§ — {ЕПи ...,»fc}, обозначаемая Rcft(&), определяется так. Положим <§° =
= £° = £,
<§q> — П <% и <£* = U £?я Для чисел у II рода. Тогда
Ji a<Y JC a<Y
Заметим, что
2ж. Можно определить таблицу баз 9icft = {Qnlt..., Wfc}, такую, что
<£gj = £2 . Цепи базы ^щ,.... nfc = {S} строятся так:
а) кортежи ( ), (^), (nv n2), . . ., (wlf д2, . . ., w^S;
6)36 6^,...,,,, 6с^;
в) если (щ, . .., wfc> *lf ..., *,)££, то 36 ^ Л^Я1 ял?> ^ ^, 6 с 6;
г) цепями базы Qnli...inJc являются те и только те цепи кортежей £,
которые удовлетворяют условиям а—в.
Определим операцию над таблицами баз.
9R № = <*&.
2з. Можно определить также таблицу баз
такую, что
^&gi~SW
Трансформации систем объектов можно рассматривать как унарные
операции над этими системами объектов.
За. Ss-операции над таблицами множеств.
Пусть дана система
систем множеств и база М С Е. Определим Ss-операцию над данной
системой систем множеств с базой М.
Ф,{^} = {Ф,{Я>}}.
В частности, определены конъюнкция систем множеств
136

и дизъюнкция систем множеств
jsj \jeJ Ьег
Фактически эти операции были использованы в й- и Дс-трансформациях.
36. Отношение порядка между таблицами множеств.
Мы будем говорить, что
если
это позволяет нам говорить о монотонно неубывающих или невозрастаю-
щих последовательностях таблиц множеств,
4. Свертывание и развертывание систем кортежей.
Нам потребуется некоторое вполне определенное преобразование
системы кортежей в себя.
Пусть
f(m) = {nv ..., пк) и Г1 К, ..., пк) = т
— раз навсегда заданное взаимно-однозначное отображение множества
кортежей на множество натуральных чисел.
Положим ср ( ) = ( ).
Если ср (щ, щ, . . ., та) = {пъ п2, . . ., пк), то Vms+1 ср (щ, . . ., тв, т8+1) =
= К, •••» «л» *i> •••» **)> гДе / (m*+i) = (*i> •••' **)• Ясно, что 5<й. Это
отображение кортежей индуцирует отображение цепей и баз, а именно:
цепь кортежей
{(*!, *£, . .., ti{)}ieI
отображается в цепь натуральных чисел 6 == {т.}.е1, гдеf~l (£}', ££,. • .,*!j=/ftt-
В этом случае мы будем писать 6 —/_1(£) и £=/(6). Соответственно база
iV={£}, составленная из цепей кортежей, преобразуется в базуМ = {6},
составленную из цепей натуральных чисел;
ve е мае £/v [6 =:/-*(£)] и v&gwaeejiif [&=/(0)].
Условимся в таком случае писать M^=^f~1{N) и N = f (M). Заметим, что
Фм {EJ = Ф* {Hilt..., *,}, где #/(m) = tfm.
При этом таблица баз 9? = {^я„..., пк} преобразуется в таблицу баз
<ЭЛ = {Л/т1,...,т,}» ГДе
Мы будем писать 9J£ = й^ (9?), это преобразование таблицы баз мы
назовем /-с вертыв а ни ем таблицы баз.
Пусть дана таблица множеств <? = {ЕПи ...уП7с}, определим таблицу
множеств U = gf(S) = {Hmitmm9t1n8}i где
"■ т1У ..., т8 = &ч{т1У ..., we)«
Мы назовем это преобразование /-свертываним таблицы
множеств. Заметим, что если 93? = /^(9?) и U = gf{<§), то
137

5. Операторы над парой: таблица множеств, таблица баз.
5а. г-оператор: (£, <Э1)г = {&*л, <&);
56. г^-оператор: (£, (3l)rc={g*ft, <31);
5в. С-оператор: (£, 9l)C = (£, 9*с);
5г. ср-оператор: (<£, 9*)<р = (<£> Л/(91));
5д. р-оператор: (£, 9^) р = (^, 9^);
5е. р°-оператор: (£, 91)рс = (£, <Щ^;
5ж. о-оператор: (£, 9?)о = (^, 9?);
5з. ^-оператор: (£, 9?) & = (&(§*, 9Z);
5и. d-оператор: (£, 9?)5 = (д£, 91);
5к. Z-оператор: переход к пределу.
Если возникает трансфинитная последовательность таблиц множеств,
которая сходится для каждого числа II рода, то для этих чисел берется
предельная таблица и далее продолжается преобразование полученных
таблиц. Итерации таких операторов мы будем записывать в виде правых
операторов, нередко опуская аргумент (&, 9?).
Отметим сходство с логическими схемами программ.
Пусть дана некоторая пара (£, 9Z). Наименьший класс пар,
содержащий эту пару и инвариантный относительно всех операторов 5а—5к,
мы назовем классом пар, порожденным парой (£, 91).
Нас будут интересовать множества и базы, входящие в эти пары.
Отметим некоторые свойства этих операторов:
1) оператор <р коммутирует со всеми операторами г, гс, £, р, рс и о.
2) операторы г и р коммутируют;
3) операторы гс и рс коммутируют;
4) некоторые операторные тождества:
го = ог = г; грг = гр; гррг = грр.
Здесь возникает вопрос об изучении своеобразной алгебры этих операторов.
6. Итерирование операторов.
6а. Можно ввести в рассмотрение четыре типа итераций
вышеопределенных операторов.
I. Конечные итерации. Если а и (3—два оператора, определенные над
парой ^таблица множеств, таблица пар^>, то оператор а(3 обозначает, что
над исходной парой выполняется оператор а, а затем над полученной
парой оператор (3. Так же определяется любая конечная суперпозиция
операторов. Все они ассоциативны.
Итерация одного и того же оператора в конечном числе обозначается
как степень
а • а • ... • а = ая#
всего ю-раз.
И. Трансфинитная итерация операторов со сходящейся таблицей
множеств и постоянной таблицей баз. Здесь предполагается, что для всякого
кортежа и трансфинитного числа II рода последовательность таблиц
множеств является сходящейся. В частности, это имеет место, если с ро-
*38

стом трансфинитного номера элементы таблицы множеств не убывают или
не возрастают.
III. Трансфинитная итерация операторов со сходящейся таблицей
множеств и автоматически определяемой новой таблицей баз. В этом случае
окончательная таблица множеств получается из исходной таблицы
множеств путем применения к ней некоторой таблицы баз. Эта таблица баз
определяется полностью, если считать, что исходная таблица множеств
универсальна. Тогда каждая база новой таблицы баз будет состоять из
всех тех цепей, которые обеспечивают вхождение в множество
окончательной таблицы. В случае рассматриваемой итерации можно считать, что
в окончательную пару наряду с окончательной таблицей множеств входит
именно эта таблица баз.
IV. Итерация со сходящейся таблицей множеств и неопределенной
таблицей баз. Такая итерация, очевидно, может являться лишь
завершающим актом некоторого процесса теоретико-множественных трансформаций.
бб. Трансфинитные итерации операторов мы будем обозначать так же,
как их степени с трансфинитными показателями. Тип итерации придется
оговаривать особо.
бв. Трансфинитные итерации операций мы будем тоже обозначать как
степени итерируемого оператора. Например,
(kol)Q = r; (dolf = rc.
бг. Преобразование пары: ^таблица множеств, таблица баз)>. Таблицу
баз можно итерировать трансфинитно (если обеспечена сходимость
последовательностей таблицы множеств для чисел II рода), так же как и таблицу
множеств. При этом возможны два случая: либо это преобразование
продолжается вплоть до заданного трасфинита, либо оно продолжается
до стабилизации. В каждом случае должно быть указано, до каких пор
это преобразование продолжается.
бд. Заметим, что если последовательность получаемых таблиц
множеств монотонна, то рано или поздно непременно возникает стабилизация
этих таблиц. В этом случае мы будем обрывать процесс, даже если таблицы
баз продолжают изменяться. Дело в том, что нас в основном интересуют
получаемые множества, тогда как базы служат лишь средством для
получения достаточно разнообразных множеств. Часто вопрос состоит в том,
чтобы выяснить, где возникает стабилизация.
бе. В частности, если таблица баз остается неизменной, а таблица
множеств меняется монотонно, то стабилизация наступает не позднее, чем
на шаге Q. Отсюда ясно, что г- и гс-операторы работают до стабилизации.
7. Трансфинитные индексы.
7а. Таблицу множеств, все элементы которой содержат одну и только
одну точку х, мы назовем ^-таблицей и будем обозначать ({#}).
76. Назовем срезом по х таблицы § таблицу
ёх={х)ё.
7в. Пусть дан оператор \з. над парой (<§, 9^), который является
трансфинитной итерацией некоторых операторов. Назовем индексом
стабилизации этой пары относительно оператора (л в точек х
139

число р (#), начиная с которого таблица стабилизируется в этом процессе
итерации.
7г. Мы будем различать внешние точки, в которых
стабилизировавшаяся таблица состоит из одних лишь пустых множеств, и
внутренние точки, в которых эта таблица содержит и не пустые
множества. Множество внутренних точек всегда совпадает с объединением всех
элементов стационарной таблицы множеств," полученной в результате
работы оператора (л.
7г. Множества всех точек, в которых индекс имеет постоянное
значение, называется внешними конституантами
соответствующего индекса.
Множества внутренних точек, в которых индекс постоянен,
называются внутренними конституантами соответствующего
индекса.
Заметим, что конституанты могут быть получены, отправляясь от
множеств исходной таблицы g посредством Ss-операции с базами из таблицы 9^,
а также операций вычитания и пересечения множеств в конечном или
счетном числе.
§ 2. Свойства множеств,
получаемых посредством трансфинитных процессов
Каждый из трансфинитных процессов описанного типа приводит к
построению двух взаимно-дополнительных множеств: внутреннего и
внешнего. Как внутреннее, так и внешнее множества разлагаются на попарно
непересекающиеся конституанты, занумерованные порядковыми числами.
Эти конституанты строятся из элементов исходной таблицы с помощью
относительно простых операций.
Допустим, что все конституанты обладают таким свойством: они либо
конечны, либо счетны, либо имеют мощность $19 либо мощность
континуума. Тогда очевидно, как и внутреннее, так и внешнее множества могут
иметь мощности только тех же самых перечисленных типов. Если
исходные множества измеримы и все операции, входящие в состав базы 9^,
сохраняют измеримость, то измеримы будут и все конституанты, а также
как внешнее, так и внутреннее множества. То же самое имеет место по
отношению к свойству Бэра. Более того, как для внешнего, так и для
внутреннего множеств будет иметь место свойство регулярности разложения этих
множеств на конституанты. В случае меры это означает, что не более чем
счетное число конституант может иметь положительную меру, тогда как
объединение всех остальных непременно имеет меру нуль. По отношению
к свойству Бэра регулярность обозначает следующее: если некоторое
множество разложено на конституанты в трансфинитном числе и если оно не
первой категории на некотором совершенном множестве, то всегда можно
отобрать такую счетную систему этих конституант, что объединение всех
остальных окажется первой категории на данном совершенном множестве.
Можно определить некоторое свойство множеств в некотором смысле
более специальное, чем измеримость и свойство Бэра, которое влечет за
собой эти последние и которое тоже сохраняется в трансфинитном процессе,
если им обладают исходные множества и если его сохраняют операции
140

с исходными базами. Первоначально это свойство было названо
дескриптивной измеримостью. Может быть, его более естественно называть
аппроксимируемостью.
Оно определяется так:
Пусть О — наследственная а-система множеств, не содержащая всего
пространства, и для каждого из множеств этой системы есть входящее
ь нее В-надмножество. О-аппроксимируемым назовем
множество, представимое в виде объединения В-множества и множества из
системы О. Систему множеств О назовем разреженным классом,
если, какова бы ни была система попарно непересекающихся 0-аппрокси-
мируемых множеств, не более чем счетное число из них не принадлежит
системе О.
Классы множеств меры нуль и множеств первой категории на некотором
совершенном множестве суть разреженные. А. В. Гладкий показал, что
существуют и существенно другие разреженные классы [3].
Оказалось, что если все исходные множества О-аппроксимируемы,
а все Ss-операции с базами их исходной таблицы сохраняют О-аппроксими-
руемость, то трансфинитная переработка множеств тоже сохраняет 0-
аппроксимируемость.
Из общей теоремы А. Н. Колмогорова о непустоте классов следует, что
если исходить из класса открытых множеств и строить новые множества,
чередуя какой-нибудь из описанных выше трансфинитных процессов
переработки множеств с операцией взятия дополнения, то получится
непрестанно расширяющаяся совокупность классов множеств.
Из общей теоремы М. А. Лаврентьева о продолжении гомеоморфизма
следует топологическая инвариантность всех таких классов [30].
В тех случаях, когда трансфинитный процесс проводится до
стабилизации, то определенная таким образом стабилизация является нормальной,
т. е. ее итерация сравнима с ней самой по силе и не сильнее ее.
Интересно было бы выяснить, какова сравнительная сила операций,
получаемых при помощи различных, описанных выше трансфинитных
процессов.
Ряд результатов такого характера можно извлечь из работ Л. В.
Канторовича и Е. М. Ливенсона по теории 8§-операций# Однако полной теории,
дающей возможность сравнивать силу таких операций, нет.
В частности, с этим связан вопрос о том, можно ли, пользуясь
описанными здесь трансфинитными процессами, построить Ss-операцию, которая,
отправляясь от универсальной таблицы открытых множеств, строила бы
множество, выходящее за пределы всех Д-множествв
Вообще в этом направлении центральным является вопрос об изучении
сравнительной силы описанных здесь трансфинитных процессов
образования множеств.
§ 3. Принцип сравнения индексов
Дальнейшее изучение классов получающихся здесь множеств требует
существенно более сильных методов. Речь идет не только об использовании
трансфинитных индексов как таковых, но и о построении принципа
сравнения этих индексов, аналогичного тому, который П. С. Новиков построил
141

для индексов, определяемых решетами или Л-операциями. Если даны две
таблицы множеств g1 и g2, две таблицы баз 9^* и 9^2 и некоторый
оператор [х, действующий на пары (g1, 9^) и (£2, 9^2), то он определяет два
трансфинитных индекса (Зх (х) и (32 (я), а также две пары
взаимно-дополнительных множеств Av и А 2, Вг и J52. Мы будем считать, что Л х и В± суть
внутренние множества, определенные обоими трансфинитными процессами, А2
и J52 — соответствующие внешние множества. Тогда можно определить
новую систему множеств g3 — {U„v #>о ЯА} и новую систему баз 913 =
= {^я1, я2,..., яЛ}, такую, что если применить тот же оператор \i к паре
(£3, 9^3), то индекс рз (х) и соответствующее внутреннее Z)2 и внешнее Z)2
множества имеют следующие свойства:
1) D1 = {x: h(z)>&(x)};
2) Рз^ХЗМах^^), Мх)].
Построение операции сравнения осуществляется так. Пусть
6 = {^Яц ...» «Л/» -^ = \^»i» ..., njcjl
Эти таблицы множеств должны удовлетворять некоторым простым
условиям регулярности, которые не являются ограничительными. Новые
множества определим так:
U = Е U CH; Umi = EU CHmi; Umxnx = ЕПх U CHMl;
■" Я»!, »ц ..., Я,'.|, Шг- == ■"»!, . .., »»'_! U С/// Wj, ..., fltj»
Новые базы определим так:
<? = Л/с; (?Wl = TV; (?Wl, Я1 = AfS,;
#«i, «i,.... »<-i, m4 = N„u Пг,..., щ^ — Для нечетных рангов,
Qmu ни ..., m^ ni — Mmu m%% шии1 т.—]щя четных рангов.
Заметим, что совсем недавно В. И. Амстиславский показал, что, зная
множества Av А2, Bv J52, а также функции (Зх (х) и р2 (я), можно для
каждой точки вычислить точное значение |33 (х)щ
§ 4. Следствия из принципа сравнения индексов
в теории К-множеств
В этом параграфе мы сформулируем ряд результатов, относящихся
к теории iJ-множеств и получаемых при помощи принципа сравнения
индексов. Было бы интересно знать, в какой мере они сохраняются для
описанных выше трансфинитных процессов построения множеств.
Во многих случаях в основе соответствующих построений лежат
конструкции, которые первоначально были получены для Л-операций.
Применение их к Л-операциям иногда было почти буквальным, иногда оно
требовало некоторого их переосмысливания.
4.1. Напомним некоторые определения. Л-операция есть 7?°-операция.
Л-множество — Д0-множество* .й^-операция есть iJ-операция,
определенная, исходя из таблицы баз, составленных итерациями i?a-n i?a ~
операций.
142

Если y число II рода, то Лг-операция строится при помощи таблицы
баз, элементы которой эквивалентны базе операции, являющейся
итерацией операции П и всех Ла-операций для а < Т-
Да-множества суть те, которые получаются применением Ла-операции
к открытым множествам. Дополнения к ним суть С7?а-множества.
Множества, являющиеся одновременно Ra и CRa, суть 5Ла-множества.
Наконец, множества, которые можно получить, исходя из открытых
множеств, путем конечного или счетного применения операций i?p, где
Р< а, и операции взятия дополнения, суть 93-йа-множества.
4.2. Произведем в плоскости ху универсальную Ла-операцию, дающую
на параллелях к оси у все Ла-множества класса а > 0, исходя из открытых
множеств, а на ochz произведем Л-операцию с неограниченными
индексами. Выполним в пространстве oxyz операцию сравнения индексов, тогда
в этом пространстве мы получим 5Да-множество, универсальное для всех
(357?ос-множеств.
Отсюда следует, что для Ла-операций, кроме Л-операции, не имеет
места ни принцип ограниченности индексов, ни аналог теоремы Суслина,
которая применительно к Ла-множествам должна была бы обозначать
совпадение классов (35Ла и ВВ.Л.
Аналогичная конструкция показывает, что все iJ-множества входят
в класс проективных множеств J52.
Отметим, что такое использование принципа сравнения индексов была
впервые предложено К. Куратовским. Отправляясь от принципа
сравнения индексов для Л-операций, построенного П. С. Новиковым, с помощью
такой конструкции К. Куратовский показал, что все С-множества входят
в класс J52 [29 Р.
Ввиду того что П. С. Новиков показал непротиворечивость в смысле
Геделя существования неизмеримых В2-множеств [23], тогда как все
R-множества измеримы, можно сделать заключение, что в классическом
смысле не может быть установлено совпадение iJ-множеств с
^-множествами. Однако в рамках классической теории отличие класса R-множеств
от класса В2-множеств все-таки не установлено. Было бы интересно
выяснить, не могут ли в этом отношении оказаться полезными те
трансфинитные процессы построения множеств, которые были описаны в настоящей
статье.
4.3. Следующая серия результатов, относящихся к теории Д-множеств
и связанных с принципом сравнения индексов, опирается на теоремы
отделимости и неотделимости. Приведем их формулировки.
1-я теорема отделимости. Два непересекающихся Ra-
множества отделимы посредством ВR^-множеств.
2-я теорема отделимости. Если у двух R^-множеств
(или CR^-множеств) удалить их общую часть, то оставшиеся множества
отделимы посредством CR^-множеств.
Теорема неотделимости. Существуют два
непересекающихся CR^-множества, неотделимые посредством BR^-множеств.
1 Отметим, что впервые этот результат был установлен Л. В. Канторовичем и Е. М. Ли-
венсоном другим путем [28].
143

Имеют место также теоремы о кратной отделимости и неотделимости R-
множеств.
Класс множеств Н удовлетворяет теоремам о кратной отделимости
относительно операции Ф#, если выполнены два условия:
а) этот класс множеств должен обладать классом трансфинитных
индексов, аналогичных тем, которыми для Л-множеств являются индексы
Л-операций;
б) этот класс множеств должен быть инвариантен относительно
операции Ф# и всех ее урезанных операций,
п-я урезанная операция по отношению к данной операции обладает
.базой, которая состоит из всех цепей данной базы, содержащих номер
п [10].
В случае iJ-множеств теоремы о кратной отделимости формулируются
так.
I. Если класс .йа-множеств инвариантен относительно Ss-операции Ф#
и всех ее урезанных операций и если последовательность Да-множеств {Еп}
такова, что
Ф*{Ея} = 09
то существует последовательность БД^-множеств {Нп}, такая, что
Нп^Еп и Фя{Нп} = 0.
II. При тех же условиях для произвольной последовательности {Еп}
множеств класса i?a существуют СЛв-множества {Нп}у такие, что
Нп^Еп-ФЯп{Ет) и Ф„{Н„}=0.
Здесь Nn есть база п-м урезанной операции.
Имеют место также аналогичные теоремы о кратной неотделимости
для <7Ла-множеств [15]*
Теоремы об отделимости и кратной отделимости нередко используются
для того, чтобы устанавливать оценки класса множеств, получаемых в
некоторых конструкциях*
Аналогичные явления имеют место в теории Д-множеств*
Ядром цепи множеств, входящих в состав какой-либо таблицы
множеств, называют пересечение тех из этих множеств, номера которых
принадлежат данной цепи,
Лузин показал, что Л-операция над 5-множествами дает Б-множества,
если каждая точка внутреннего множества принадлежит к ядру одной и
только одной цепи этой операции [7]. П. С. Новиков показал, что этот
результат остается в силе, если каждая точка внутреннего множества
принадлежит ядрам не более чем счетного числа цепей Л-операции.
Оба результата устанавливаются при помощи теорем отделимости или
кратной отделимости.
База называется жесткой, если ни одна ее цепь не содержит другой
ее цепи. Как i?a-, так и В* -операции обладают жесткими базами.
Да-операция с жесткой базой над 5Ла-множествами приводит к BR^~
множеству, если каждая точка внутреннего множества принадлежит
к ядру одной и только одной цепи этой операции [18].
144

Опираясь на вторую теорему о кратной отделимости, удается показать,
что если дана произвольная таблица /?а-множеств, то множество точек,
каждая из которых входит в ядро лишь одной какой-нибудь цепи жесткой
базы Да~операции, есть С7?ге-множество.
Дальнейшие обобщения этого результата были получены в Волгограде
3. И. Козловой и И. Д. Ступиной [5, 6, 25].
На этом пути получились и некоторые новые результаты, относящиеся
к теории Л-множеств. При помощи общих теорем о кратной отделимости
удалось получить единообразное доказательство многих результатов,
относящихся к накрытию Л-множеств, обладающих некоторыми
специальными структурными свойствами, ^-множествами, обладающими такими же
свойствами [21].
К сожалению, форма Д-операций очень громоздка. Это отталкивает
многих исследователей от изучения этих операций, хотя в последнее время
интерес к индуктивным конструкциям, родственным iJ-операциям,
возрождается. (Можно упомянуть о работах В. И. Амстиславского, Эндер-
тона, Хинмана и др. [1,2,26,27].) В связи с этим была предпринята попытка
менее громоздкого изложения основных результатов теории Л-множеств.
С этой целью были построены Г-операции. Г-операции получаются из i?-
операций путем пересчета всех кортежей натуральными числами.
Изложение ряда вещей действительно получается менее громоздким. Однако
существенно новых результатов на этом пути получить не удалось [12, 19].
Отметим, что многие результаты, относящиеся к Г-операциям, можно
обобщить на тот случай, когда исходные операции суть
теоретико-множественные операции, не обязательно положительные [20].
§ 5. О теоретико-множественных операциях,
сохраняющих измеримость
5.1. Стремление к построению более широких классов измеримых
множеств привело в свое время к несколько иной попытке. Был
использован своеобразный процесс трансфинитной индукции для построения
теоретико-множественных операций, сохраняющих аппроксимируемость,
(а следовательно, и измеримость и свойство Бэра). Этот процесс
трансфинитной индукции был впервые использован Лебегом для эффективного
построения' функции, не входящей в классы Бэра. Впоследствии он был
применен К. Куратовским для построения-некоторых универсальных
множеств. Им было показано, что в этих процессах трансфинитная индукция
может быть исключена и заменена проективными операциями. Фон Нейман
и К. Куратовский с помощью аналогичной конструкции показали, что
график функции, построенный Лебегом, есть разность двух Л-множеств [32].
Впоследствии Аддисон с помощью родственной конструкции построил
эффективное множество, универсальное для всех проективных множеств
и, следовательно, выходящее за пределы проективных множеств.
Как уже сказано, аналогичная конструкция была применена также для
построения теоретико-множественных операций, сохраняющих
измеримость. К сожалению, сколько-нибудь полная теория этих операций не
разработана до сих пор.
145

Было бы особенно интересно сочетать эти конструкции с теми
трансфинитными процессами образования множеств, которые были описаны
в настоящей статье.
Будем определять теперь теоретико-множественные операции с
помощью следующего трансфинитного процесса [13> 15].
1. Начальная операция есть Л-операция (R над U)-
2. Если определена теоретико-множественная операция ранга а (где-
а — число 1-го, 2-го или 3-го класса), то операция ранга а+1
определяется как R над дополнительной к предыдущей г. Для чисел у II рода
поступаем так. Пусть у= 5+ (3, где 3 есть наибольшее возможное число
III рода, и все операции рангов 8+|3', где (3' < [3, определены. Тогда
операция ранга 3+ Р эквивалентна пересечению операций ранга 8+ (3' для
всех Р' < (3. Заметим, что это пересечение счетно.
Для чисел 3 III рода мы будем предполагать, что задана
перенумерация сегмента трансфинитных чисел, предшествующих числу 3,
посредством всех трансфинитных чисел 2-го класса. Пусть это
Pi, Р» ..-.Р., №■
Это перенумерование для «не слишком больших» чисел III рода
можно определить эффективно.
Для всех чисел III рода это требует использования аксиомы Цермело.
Мы будем считать, что для всех |За < 5 база соответствующей теоретико-
множественной операции определена. Для чисел III рода поступаем так.
Заданную таблицу множеств раз навсегда определенным способом
расщепляем на две — S и Н. Таблица Н будет служить лишь для определения
трансфинитного индекса Л-операции.
Как известно, точке х отвечает также эффективная перенумерация
сегмента трансфинитных чисел, предшествующих числу 3. Пусть это будет
Составим последовательность ранее определенных операций рангов
р„> р*. ...м*). (1)
Определим тогда теоретико-множественную операцию WNix), которая
эквивалентна взятию пересечения всех операций рангов pff < а (я),
взятых в том порядке, который отвечает строчке (1). При этом таблица <§, на
которую воздействует операция *PV(a;), раз навсегда фиксированным
образом разбивается на счетное число попарно непересекающихся таблиц,
и на первую таблицу воздействует операция ранга [Ц, на вторую —
операция ранга (3^ и т. д.
Окончательная операция определяется так:
U {х}ЧГу{х)(ё),
х
где {х) — множество, состоящее из одной только точки х.
При этом считается, что все промежуточные операции определяются
аналогичными индуктивными процессами. Это важно для сохранения
эффективности конструкции.
1 Иногда по техническим причинам следует брать итерацию предыдущей операции и
дополнительной к ней.
146

Так, определенная операция, отправляясь от открытых множеств,
приводит к классам множеств, выходящим за пределы iJ-множеств.
Классификация этих множеств простирается по трансфинитам 3-го класса.
Вообще говоря, эти конструкции являются не эффективными и даже
ветвящимися, так как они опираются на пересчет сегментов трансфинитов,
определяемых числами III рода посредством трансфинитов 2-го класса.
Однако до тех пор, пока этот пересчет осуществляется эффективно,
конструкция остается эффективной и не ветвится. Здесь наблюдается такая же
картина, как и в работе П. С. Новикова о классификации эффективного.
Заметим, что все множества, получающиеся описанными операциями,
отправляясь от аппроксимируемых множеств, являются также
аппроксимируемыми. В частности, они измеримы и обладают свойством Бэра.
К сожалению, более детальное изучение этих операций не проведено.
ЛИТЕРАТУРА
1. В. И. Амстиславский. Расширение рекурсивных иерархий и Д-операции.
Докл. АН СССР, 180, № 5, 1968, 1023—1026.
2. В. И. Амстиславский. О разложении тела множеств, получаемых Л-операцией,
над рекурсивными множествами. Докл. АН СССР, 191, № 4, 1970, 743—746.
3. А. В. Гладкий. Разреженные классы множеств, допускающие покрытия^. Матем.
сб., 44, № 2, 1958, 287—295.
4. А. Н. Колмогоров. Об операциях над множествами. Матем.сб., 35, 1928, 414—422.
5. 3. И. Козлова. О некоторых Дз-операциях, базы которых получаются
объединением цепей базы исходной операции. Докл. АН СССР, 188, № 5, 1969, 1001—1003.
6. 3. И. Козлова. Д-операция с полной глубиной цепей над системами множеств
мощности т. Докл. АН СССР, 193, № 3, 1970, 521—524.
7. Н. Н. Лузин. О классификации Бэра. Собрание соч., т. 2, 270—272.
8. Н. Н. Лузин. Об аналитических множествах. Собрание соч., т. 2, 380—459.
9. Н. Н. Лузин. О некоторых новых результатах дескриптивной теории функций.
Изд-во АН СССР, 1935, стр. 86.
10. А. А. Ляпунов. О кратной отделимости для ^-операций. Докл. АН СССР, 53, №5,
399—402, 1946.
ii. А. А. Ляпунов. Об Д-множествах. Докл. АН СССР, 58, № 9, 1887—1890, 1947.
12. А. А. Ляпунов. Новое определение некоторых классов множеств. Докл. АН СССР,
59, № 5, 847—848, 1948.
13. А. А. Ляпунов. О теоретико-множественных операциях, сохраняющих
измеримость. Докл. АН СССР, 65, № 5, 1949, 609—612.
14. А. А. Ляпунов. О ^-операциях, сохраняющих измеримость и свойство Бэра.
Матем. сб., 24 (66), № 1, 1949, 119-127.
15. А. А. Ляпунов. Я-множества. Труды Матем. ин-та АН СССР, 40, 1953, 68 стр.
16. А. А. Ляпунов. О классификации Д-множеств. Матем. сб., 32 (74), № 1, 1953,
255-256.
17. А. А. Ляпунов. Отделимость и неотделимость jR-множеств. Матем. сб., 32 (74), №3,
1953, 515—532.
18. А. А. Ляпунов. О признаках вырождения для Я-множеств. Изв. АН СССР, серия
матем., 17, 1953, 563—578.
19. А. А. Ляпунов. Об операциях над множествами, допускающих трансфинитные
индексы. Труды Моск. матем. об-ва, 6, 1957, 195—230.
20. А. А. Ляпунов. Об операциях над множествами. Алгебра и логика (семинар),
2, № 1, 1963, 47—56.
21. А. А. Ляпунов. О накрытии 4-множеств и кратной отделимости. Докл. АН СССР,
190, № 4, 1970, 775—776.
22. П. С. Новиков. О некоторых системах множеств, инвариантных по отношению
к Л-операции. Докл. АН СССР, 3, 1934, 557—560.
147

23. П. С. Новиков, О непротиворечивости некоторых положений дескриптивной теории
множеств. Труды Матем. ин-та АН СССР, 38, 1951, 279—316.
24. П, С, Новиков, Об алгоритмической неразрешимости проблемы тождества.
Докл. АН СССР, 85, № 5, 1952, 709—712*
25. И, Д, Ступина, О некоторых свойствах R- и #с-операций. Докл. АН СССР, 188,
№ 5, 1969, 1010—1013.
26. Н, В, Enderton, Hierarchies in recursive function theory. Trans. Amer. Math. Soc,
111, 1964, 457-471.
27. P, G. Hinman, Hierarchies of effectine descriptive set theory. Trans. Amer. Math.
Soc, 142, 1969, 111—140.
28. L, V. Kantorowich, E, M. Livenson. Memoir on the analytical operations and
projective sets. Part I. Fund. Math., 18, 1932, 214—279. Part II. Fund Math., 20, 1933,
54-97.
29. K. Kuratowsky. Les ensembles projectifs et l'operation A. C. r. Acad. sci. Paris,
203, 1936.
30. M. A. Lavrentiev. Contribution a la theorie des ensembles homeomorphes. Fund.
Math., 6, 1924, 149—160.
31. P, S. Novikov. Sur les fonctions implicites mesurables B. Fund. Math., 17, 1931,
8-25.
32. J, Von Neuman a. K. Kuratowsky, On some analytical set defined by transfinite
induction. Ann. Math., 38, 1937, 521—525.

A. A. M У Ч Н И К, А. Н.МАСЛОВ
РЕГУЛЯРНЫЕ, ЛИНЕЙНЫЕ И ВЕРОЯТНОСТНЫЕ СОБЫТИЯ
Введение
Конечные автоматы, равно как и автоматы с бесконечной (растущей)
памятью, выступают обычно в трех ролях:
а) Как устройства, распознающие свойства конечных (а иногда и
бесконечных [1]) входных последовательностей символов—букв из конечного
алфавита 2. Эти последовательности также называются словами
(сверхсловами) или цепочками, а также элементами свободного моноида 2*.
Автоматы в такой роли называются распознавателями или акцепторами.
б) Как устройства, порождающие некоторые множества слов в 2*.
Такие автоматы называются обычно генераторами или источниками.
В случае «конечной памяти» они порождают в точности класс регулярных
множеств, т. е. множеств, распознаваемых конечными акцепторами.
Рассмотрение генераторов тесно связано с недетерминированными
автоматами и порождающими грамматиками специального вида.
в) Наконец, конечные автоматы могут выступать в роли
преобразователей входных последовательностей символов в выходные. В этой роли они
носят название конечных преобразователей или трансдюсеров.
Легко определить преобразователи в терминах акцепторов и наоборот,
а также (даже для растущих автоматов) связать подобным образом
распознаватели и генераторы. В этом смысле все три модели оказываются
эквивалентными.
Обычно делаются следующие предположения о характере работы
автомата:
1) автомат работает в дискретном времени t, т. е. £=0,1,2,. . . ив эти
моменты времени автомат воспринимает входные символы (входы) из 2
(зависящие от £), изменяет свое состояние и выдает выходной сигнал
(выход) из {0,1}, 2 или некоторого нового алфавита А;
2) состояние автомата в момент £+1 зависит только от состояния и
входа в момент t;
3) выходной символ в момент t зависит только От состояния и входа
в момент t (модель Мили). Часто рассматривается случай, когда выход
в момент t зависит только от состояния автомата в момент t (модель Мура).
Однако предположение о зависимости выхода только от состояния не
уменьшает класса представимых событий.
Существуют различные математические языки (рабочие аппараты) для
описания и исследования конечных автоматов. Одним из первых и, по-
149

жалуй, наиболее известных языков является предложенный Клини [10}
язык регулярных выражений, получивший дальнейшее развитие во
многих работах.
Множества слов в алфавите 2 называются событиями или языками
в этом алфавите. Особую роль играют так называемые элементарные
события: 0 — пустое событие, события {A}, (oj, где А — пустое слово,
а а,£2 (* = 1, 2,. . ., d).
Множество всех событий в 2* образует алгебру [3] относительно
операций объединения(\J), произведения или конкатенации (•) и итерации(*).
Элементарные события порождают в этой алгебре подалгебру
регулярных событий [10].
Интересные подалгебры алгебры Клини образуют регулярные события,
содержащие пустое слово [11 ], бесконтекстные языки, контекстные языки
[3], рудиментарные события (т. е. те, характеристические предикаты
которых рудиментарны по Шмульяну [9]) и многие другие.
Алгебры Клини можно рассматривать не только в свободных
полугруппах с единицей, а в любых полугруппах [3]. В свободных
коммутативных полугруппах регулярным событиям соответствуют полулинейные
множества [3, гл. 5].
Множество R пар слов «вход—выход» конечного (синхронного)
автомата всегда является регулярным подмножеством свободного моноида над
алфавитом 2 X А, где 2 — входной, а А — выходной алфавиты автомата.
При некоторых дополнительных ограничениях на множество R
справедливо и обратное утверждение. Это позволяет определить преобразование,
осуществляемое конечным автоматом, в терминах регулярных
выражений.
Автомат А, распознающий множество слов из 2*, ставит каждому слову
х£ 2* в соответствие характеристику 0 или 1, в зависимости от того,
входит ли х б событие Т (А), представимое в конечном автомате А, или нет.
Система из конечного числа параллельно работающих автоматов позволя-
ляет дать многозначную (конечно значную) характеристику входного
слова.
Однако часто нам требуется более полная информация о словах из 2*.
Так обстоит дело, если мы интересуемся числом выводов данного слова
в грамматике, порождающей язык Т, или частотой, с которой встречается
данное слово в языке, или сложностью обработки данного слова некоторым
алгоритмом.
Л. А. Заде [6] ввел понятие нечеткого множества как функции /: 2* ->
-> [0,1] х. При этом / (я)~интерпретируется как «степень принадлежности»
(или нашей уверенности в принадлежности) слова х нечеткому множеству
Tf (или просто /).
Нечеткие множества образуют алгебру, аналогичную булевой, с
операциями Д >//,=; max (/х, /2), /iA/2=min (/х, /2) и 1—/.
Важным обобщением конечных и растущих автоматов являются
вероятностные автоматы [5] и вероятностные машины Тьюринга [21],
представляющие нечеткие события.
1 Здесь [0, 1] обозначает множество действительных чисел между 0 и 1.
150

Возможны другие модели, например максиминные автоматы [32] и
соответствующие им машины [31], также представляющие нечеткие
события.
Определение 1. Вероятностным автоматом (в. а.) над
алфавитом 2 называется четверка V=(S, М, тс, F), где S = (SV. . ., Sn) —
множество состояний, М={М (о)|о£ 2} — стохастические матрицы тгХтг,
тг=(тг (1),. . ., тт (д)) — стохастический вектор (начальное распределение
вероятностей), F — вектор из 0 и 1 (вектор заключительных состояний).
Как обычно, обозначим М (oii . . . <?»fe) = М (a4l) • . . . • M(oik). Элементом
(i, /) матрицы M(x), #£2*, является вероятность P(Si9 x, Sj) перехода
в. а. под воздействием входного слова х из состояния S4 в состояние Sj.
Мы определили (следуя [5]) в. а. — акцептор. В. а. в других ролях
определяется аналогичным образом [12, 20].
Вероятностный автомат представляет нечеткое множество слов р (х) =
= п»М (x)mF> х£Л*. В работе [7] такие множества названы
вероятностными событиями (в. с). Там же показано, что ряд операций над
вероятностными событиями приводит снова к вероятностным событиям. Так, если р (х),
q(x) и г(х) — в. с, то с-р(х) (O^c^l), p(z)-q(x), рТ(х) = р(хТ)
{хт — обращение слова х), р (х) - г (х)-{-(I— г (х)) - q (х), р(ху) и р(ух)
(у £2Г — фиксированное слово) также в. с.
В [8] доказано, что для в. с. р (х) nq(x) нечеткие множества p\/q и p/\q
могут быть не представимы ни в каком в. а. Более того, алгоритмически
неразрешима проблема: является ли объединение (или пересечение) двух
рациональных в. с. снова в. с.
По аналогии с операцией симметрической разности в [6] введена над
нечеткими множествами р и q операция \р —q\ — абсолютная величина
разности рид. Ниже мы покажем, что в. с. не замкнуты относительно этой
операции.
Характерной особенностью обычно рассматриваемых вероятностных
автоматов является линейность преобразований распределений вероятностей.
Во многих случаях естественно рассматривать обобщение вероятностных
автоматов — общие линейные автоматы (или линейные динамические
системы) [4,2,15]. Чтобы определить общий линейный автомат, нам
понадобится вспомогательное
Определение 2. Множество К с всюду определенными
операциями (+) и (•) на нем будем называть полукольцом, если для всех
элементов а, Ъ, с и d из К выполнены следующие равенства:
1) (а + Ь) + с = а + (Ъ + с),
2) (а -Ъ) • с = а • (Ь • с),
3) а + b = b-\-a,
4) (a + b)(c + d) = a-c + b-c + a.d + b-d,
5) существует элемент 0 из К, такой, что а-\-0=а,
6) а.0=0-а=0,
7) существует элемент 1 из К такой, что а-1 = 1-а=а.
Примерами полуколец являются: кольцо с 1 (в частности, поле), булева
алгебра, множество многочленов и множество матриц с элементами в
полукольце.
151

Определение 3. Под общим линейным автоматом (о. л, а.) над
полукольцом К мы понимаем систему £l=(F, М, Е, Z, <р, ф), где F=Z* и Z=
Кт — пространства состояний и выходов соответственно (векторы
размерностей пяте координатами в полукольце К); М — подмножество V\
2 = {av . . ., od} — входной алфавит; <р = (<р^, . . ., <р^), где каждое
<fa.:F-^F — линейное отображение (т. е. задается матрицей А (о.)),
переводящее М в себя; ф : V-> Z — линейное отображение (задается матрицей В).
Как и в случае в. а., для входного слова х=-о^ . . . а^ обозначим
A(x) = A(otl).....A(oik) = latJ{x)\.
О. л. а. называется инициальным, если в М выделено начальное
состояние F0. Инициальный о. л. a. J& = (V, M, V0, 2, Z, <р> Ф) ставит
в соответствие каждому слову #£Е* вектор Z(x)£Z:
Z(x)=V0.A(x)-B.
Векторным линейным событием размерности т над полукольцом К
в алфавите Е мы называем формальный степенной ряд от
некоммутативных переменных <\.£Е:
а= 2 а>(х)х,
где а (#) — функция из Е* в Кт.
Будем говорить, что инициальный общий линейный автомат ЭД
представляет векторное линейное событие Z= ^Z(x)x»
Пример. Пусть некоторые переходные вероятности pv. . ., рг
вероятностного автомата (в. а.) являются неопределенными величинами.
Этот в. а. можно рассматривать как о. л. а. над кольцом К=К [Pv. . .,
Рг] многочленов от Р19. . ., Рг. Размерность п равна числу состояний в. а.,
а т=1.
Векторное линейное событие «распадается» на «скалярные» линейные
события aj = 2 €ij {х)х (а = (а19 . . ., ат))9 которые мы в дальнейшем будем
X
называть просто линейными событиями (л. с).
Производной по слову у £ Е* векторного линейного события Z
называется векторное линейное событие
Z,=2Z(yx)x.
X
Для векторного линейного события а элементы а (х) будем называть
коэффициентами.
Замечание 1. Без ограничения общности можно считать, что
в V нет подмножества, изоморфного К""1 и содержащего М.
Замечание 2. Конечные автоматы являются о. л. а. над любым
полукольцом, а недетерминированные автоматы — о. л. а. над булевой
алгеброй {0,1}. В [4] также показано, как можно проинтерпретировать
линейные автоматы над полем Р посредством о. л. а., размерность которого
равна сумме размерностей линейного автомата и его входа* Обратное,
вообще говоря, не имеет места даже для конечных автоматов [22].
152

Операции над линейными событиями
Следуя М. П. Шютценберже [24], рассмотрим алгебру л. с,
аналогичную алгебре Клини. Операции здесь следующие. Если f = ^f(x)x-
X
и g = ^ig(x)x9 то для а£К:
х
1) а/ = 2 (а * / (#)) х (умножение на константу),
X
2) / + * = 2 (/ (*) + * И) х (сумма),
X
3) / * g = 2 f 2 f{u)'g {v)\ х (произведение),
X \UV=X /
4) если / (X) = 0, то
/*=1+/ + /2 + /3+... (итерация).
Элементарными л. с. мы называем / = 0, / = 1 и л. с. fi9 такие, что
|1 ПРИ x = ai9
Ii(X)—[0 при *=^с„
эти последние л. с. мы в дальнейшем будем обозначать о..
Замыкание множества элементарных л. с. относительно операций 1)—4)
образует класс регулярных л. с. (или множество формальных степенных
рядов от некоммутативных переменных К(^)).
Состояние V. = (V. (1), . . ., Vi (n)) о. л. а. назовем i-тым базисным
состоянием, если V4(i) = l и V. (/) = 0 при i=^=j. Легко проверить, что
если в о. л. а. выбрано начальное состояние V0 = (V0(l), . .., V0(n)), та
он представляет 2^о(0/*» гДе /* представимо в том же о. л. а. при
i
выборе V. в качестве начального состояния.
Заметим, что линейное уравнение х = а • х + 6, где а, Ь£К(2),
а (X) = 0 и х — неизвестное, имеет решение х = а* - 6, хотя в полукольце К,
вообще говоря, нет операций вычитания и деления.
Для л. с. / и g рассматриваются еще операции: произведение Адамара
/ * g = 2 (/ (х) * g (х))х и обращение f (х) = 2 / (хТ)х, сохраняющие регу-
X , X
лярность.
Для л. с. определяется почленное дифференцирование, так же как и
для степенных рядов. Если задано дифференцирование D в полукольце Кг
т. е. отображение D:K^>K со свойствами D(0) == Z)(l) — 0, Z)(a + &) =
= Z)(a)-f-Z)(&) и D(a - b) —D(a) - b-\-a - D(b) для всех а и 6, то оно
индуцирует дифференцирование л. с. /, т.е. D{f) = ^D(f(x))x.
X
Выпишем правила дифференцирования л. с:
1) D{*f) = D{*)f + *D(f),
2) Л(/1 + /,) = Д(/1) + Л(/,),
3) D(f1.U) = D(f1)^U + f1-D(U),
4)i D(f) = r-D(f)-r.
Свойство 4) можно получить, например, дифференцируя равенство /*=/•/*+1 и
решая линейное уравнение; неясно, изменится ли это правило, если не требовать,
чтобы Z>(1)=0.
153-

Из правил 1)—4) видно, что дифференцирование сохраняет
регулярность л. с.
Анализ и синтез
Теперь мы можем описать метод вычисления л. с, представимого
в' заданном инициальном о. л. а.
Лемма 1. Инициальный о, л. а. с одномерным пространством Z
выходов представляет регулярное л, с.
Доказательство. Каждому базисному состоянию V.t если
рассматривать его как начальное, соответствует л. с. f. = 2 С^ * А (х) • В)х,
назовем его базисным.
Имеем систему линейных уравнений:
h = ?п • А + ?u • U + • • • + Ящ • f, + rv
/2 = ?И • /l + ?Я •/«+.••+ ?2» • /я + Г2> (1)
/Я = ?й • А + ?*2 • /2 + - • + ?« ' fn + Ги>
где ?,у = 2 а*у (а)а и г<= *V#— регулярные л. с.
Или в матричной1 форме f=Q»f-\-r.
Решение системы (1) существует и единственно, так как она полностью
описывает поведение о. л. а. Поэтому ее можно решать обычным
методом исключения неизвестных. Из первого уравнения мы получаем
А = ?п • ?м • h + • • • + Я*п • Ягп ' fn + 9u • ri и подставляем полученное
выражение в остальные уравнения системы (1). Получим линейную систему
относительно /2, . . ., /я, коэффициенты при которых не содержат «свободных»
членов. Последовательно исключаем /2, затем /3 и т. д., пока не получим
выражение для /п через д^. и т\. Аналогично можно найти каждое /^
.(i = l, 2, . . ., и).
Пусть теперь У0 = ^а4Тг, тогда представимое л. с. равно 2а*/*-
Лемма доказана.
Указанный способ позволяет выразить л. с. Д. с помощью операций
домножения на константу (+), (•) и (*) через элементарные л. с. Правда,
решение в общем виде выглядит несколько громоздким и из результатов
[23] следует, что «звездная глубина» решения (т. е. максимальное число
вложенных итераций) может равняться п.
Построение регулярного л. с, представимого в данном о. л. а., мы по
аналогии с конечным автоматом можем назвать анализом о. л. а.
Рассмотрим теперь задачу синтеза. Для о. л. а. введем неформально
аналог схем из функциональных элементов следующим образом. Рас-
д Матричный вид решения f=Q* • г удобен, но еще не доказывает лемму. Сходимость
матричного ряда Q*=Е +Q +Q2 +Q3 +. . . следует из того, что элементы матрицы Q
не содержат «свободных» членов (т. е. qfj- (X)=0), поэтому хотя каждый член матрицы
Q* и определяется бесконечным числом слагаемых, коэффициент при каждом слове
равен конечной сумме.
.454

смотрим преобразователи двух видов. Первый: входы и выходы
преобразователей являются элементами полукольца. Это сумматор f(al9 а2) = а1+а21
умножитель f (а)=с-а и задержка — выход ее равен входу в
предыдущий момент, а в начальный момент ее выход 0. Второй: стартер g (без
входных каналов), его выход в начальный момент равен 1, а во все
последующие 0 и выделитель h4J по одному входному каналу которого поступают
элементы "алфавита 2—{аь . . ., оа), а по второму — элементы
полукольца; выход его равен входу по второму каналу, если в предыдущий
момент на вход поступил сигнал of, и равен 0 в остальных случаях (в том
числе и в начальный момент). Соединяя выходы некоторых
преобразователей с входами других мы получаем более сложные схемы.
Мы будем допускать неограниченное ветвление выходных каналов
и обратные связи, но в схемах не должно быть циклов, не содержащих
задержек. К каждому входному каналу, на который поступают элементы
полукольца, должен быть подсоединен выход некоторого другого
преобразователя. Имеется только один входной канал, по которому поступают
символы алфавита 2.
Значения фх, . . ., tyk выходных каналов фиксированных
преобразователей схемы в момент t образуют выходной вектор. Назовем описанные
«объекты общими линейными схемами (короче, линейными схемами, так
как здесь не возникнет опасности смешивания этого понятия с понятием
линейной переключательной схемы). Будем говорить, что линейная
схема реализует векторное линейное событие 2 Ф (х) х> гДе Ф (х) — выход-
ной вектор схемы, после подачи слова х по входному каналу.
Каждая линейная схема реализует некоторое векторное линейное
-событие, представимое в о. л. а. Действительно, пусть схема имеет п
задержек. Тогда M=V=Kn+1. Начальное состояние У0=(1, 0, . . ., 0).
Матрицы переходов: ViVa£2, a.1(o)=0nt1/ равен значению Z-того
выходного канала при £=0; для / > 1 аг.(о) равен входу /-той задержки
при подаче на входной канал схемы в начальный момент символа а; для
i > 1, / > 1 a.j (а) равен входу /-той задержки и Ъи равен значению
Z-того выходного канала при подаче на входной канал схемы символа a
при условии, что все задержки, кроме i-той «помнят» 0, а i-тая задержка
«помнит» 1. Каждый элемент выходного вектора является, очевидно,
.линейной функцией от элементов, которые «помнят» задержки.
Верно и обратное, как показывает следующая
Лемма 2. Для каждого векторного регулярного линейного события
существует линейная схема, реализующая его.
Эта лемма 2 обобщает соответствующий результат из работы [19].
Докажем, что каждое регулярное л. с. реализуется схемой (с одним
входным и с одним выходным каналом, на который последовательно
лоступает слово #£2*), содержащей точно один стартер. Причем,
отсоединив стартер, получим схему с двумя входами, такую, что, подавая
на освободившийся вход любую последовательность аъ . . ., ак элементов
полукольца, а на первоначальный (основной) вход любую
последовательность afl, . .., oijc символов из 2 т°й же длины, получим на выходе
155

к
2 afiio. ...а. Л (2>
где i? — регулярное л. с, реализуемое схемой.
Тогда о. л. а. с пространством выходов размерности т представляет
векторное линейное событие Z=(Z1, . . ., Zm), где каждое л. с. Z.
реализуется линейной схемой S{ указанным выше образом. А векторное
линейное событие Z реализуется линейной схемой, полученной из схем S{
отождествлением входных каналов и стартеров, i-тый выходной канал
схемы является выходным каналом S..
Перейдем к сформулированному утверждению. Заметим, что л. с. X
реализует стартер. А событие о. реализует линейная схема: выход стартераг
через задержку соединен с входом выделителя h., выход hi — выход схемы.
Как реализуются элементарные л. с, показано.
Умножение на константу осуществляется соединением
соответствующего умножителя к выходному каналу, выходной канал умножителя
будет теперь выходным каналом схемы.
Пусть для регулярных л. с. /х и /2 реализующие их линейные схемы
S± и S2 с указанным выше свойством построены. Тогда /i+/2 реализуется
линейной схемой, полученной из 5Ь 52 и сумматора отождествлением
входных каналов и стартеров схем S± и S2 и соединением их выходных
каналов к входному каналу сумматора; выходной канал сумматора
является выходным каналом схемы. Далее /х ./2 реализуется линейной схемой
(полученной из *SX и S2), входной канал которой есть объединенный
входной канал S± и £2; а у схемы S2 отсоединен стартер и к освободившемуся
входному каналу подсоединен выходной канал S^ выходной канал S%
является выходным каналом схемы. И, наконец, /* реализуется линейной
схемой, полученной из Sx и сумматора последовательно отсоединением
стартера S± и соединением к освободившемуся входному каналу г
выходного канала сумматора; соединение выходного канала S± и выходнога
канала стартера к входным каналам сумматора; выходным каналом схемы
считается выходной канал сумматора. Непосредственно проверяется^
что построенные схемы также обладают свойством (2).
Из вышедоказанного вытекает
Теорема 1. Класс л. с, представимых в о. л. а. с одномерным
пространством выходов совпадает с классом регулярных л. с. и совпадает
с классом л, с,, реализуемых линейными схемами с одним выходным каналом.
Грамматики
Известно, что регулярные языки порождаются грамматиками [3, гл. 21
типа 3,, т. е. грамматиками, имеющими продукции вида А -> оВ или
А -> X (А и В — не терминальные, а — терминальный символ, А —
пустое слово) 2.
1 Если /х (Х)=0, то циклов, не содержащих задержку, не образуется.
2 Обычно рассматривается порождение регулярных языков грамматиками несколько
более общего вида [3], но любая такая грамматика легко сводится к эквивалентной ей
грамматике указанного вида.
156

Пусть в заданной грамматике типа 3 каждой продукции г соответствует
элемент с (г) полукольца К (весовая грамматика). Тогда каждому выводу
гъ г2» • • •> гк будет соответствовать произведение с (гх) -с (г2).... -с (гк),
а слову х — сумма таких произведений по всем выводам слова х
(обозначим ее а (х)). Будем говорить, что весовая грамматика порождает ряд
2а(#)#. Если некоторая продукция указанного вида не входит в
Грамме
матику, то мы ее добавим с нулевым весом.
Легко проверить, что весовая грамматика является точным
описанием о. л. а. с одномерным пространством выходов и наоборот. При этом
входному алфавиту 2 соответствуют терминальные символы, состояниям
о. л. а. соответствуют нетерминальные символы. Элементу a.j (а) матрицы
переходов соответствует вес продукции Ai -> °Aj. Линейный оператор ф,
определяющий выход о. л. а., является скалярным умножением на вектор
о координатами, равными весам продукций А. -> X. Начальное состояние
о. л. а. соответствует начальному нетерминальному символу грамматики.
Итак, следующие два условия эквивалентны: ряд 2 а (.г) #
х
1) порождается весовой грамматикой типа 3;
2) представим в о. л. а. с одномерным пространством Z.
Весовые грамматики типа 3 над полем действительных чисел,
следовательно, эквивалентны обобщенным автоматам [16], т. е. о. л. а. над
полем действительных чисел с одномерным пространством Z.
Грамматики, соответствующие вероятностным автоматам, можно
определить следующим образом. Все веса (числа) положительны, сумма весов
продукций вида А -> зВ при фиксированных А и а равна 1, продукции
вида А -> X имеют вес 1 или 0. Тогда состояниям в. а. соответствуют
нетерминальные символы и наоборот.
Такие грамматики следует интерпретировать скорее не как
порождающие, а как распознающие. Т. е. соответствующие процедуре: приписываем
слева к слову начальный нетерминальный символ А0; затем применяем
правила, обратные х правилам вида А -> aJ5 грамматики с
соответствующей вероятностью, т. е. «понимаем» каждую букву в том или ином смысле
с вероятностью, зависящей от предыдущего текста. Слово считаем
распознанным, если в результате процедуры получилось пустое слово2.
Без этого ограничения на вероятности вес слова можно рассматривать
только как математическое ожидание числа выводов этого слова, а ряды
^а(х)х играют ту же роль, что и степенные ряды с натуральными коэф-
х
фициентами в [24]. Весовые и вероятностные грамматики рассмотрены
также в [17, 20].
Рассмотрим теперь весовую грамматику типа 3 над коммутативным
нормированным кольцом К с единицей без делителей нуля. Если в л. с,
порождаемом такой грамматикой, отождествить символы из 2, то получим
1 Т. е. заменяем А о на В,
2 Как и в детерминированном случае, весовые грамматики несколько более общего вида
эквивалентны рассматриваемым нами весовым грамматикам типа 3. Мы не будем
описывать, какого именно вида; укажем только, что для последних из рассмотренных
грамматик необходимые эквивалентности установлены в [30].
157

формальный ряд от одной переменной с коэффициентами в К (каждый
такой коэффициент равен сумме конечного числа коэффициентов л. с).
По аналогии с детерминированными языками [18] этот ряд можно назвать
производящей функцией. Из наших результатов следует, что
производящая функция для весовых грамматик типа 3 рациональна. Для нее можно
определить аналог энтропии по Кюиху [18] как логарифм от величины,
обратной к радиусу сходимости. Но мы не отстаиваем такое определение,,
как наиболее естественное.
Вероятностные автоматы и обобщенные автоматы
Опишем один класс обобщенных автоматов [16], представляющих
вероятностные события.
Лемма 3. Пусть А — семейство действительных матриц из нулей
и единиц, замкнутое по умножению. Если у обобщенного автомата *21
каждая матрица переходов М(а) равна 2 а* (а) Ai9 где А. £ А, а. (а) ^ 0 и
i
^а2а* (а) = 1» а векторы Ttuf имеют одну координату 1, а остальные О,
г
то существует в. а. V, представляющий нечеткое событие тс. М (х) • /.
Доказательство. Состояниями в. а. V будут подмножества
состояний ЭД. Подмножество, состоящее из одного элемента,
соответствующего 1 вектора тс, будет начальным состоянием V. Для каждой матрицы
Ак£А обозначим Вк = \\Ь*-\\ матрицу, элемент bk.j которой равен 1, если
подмножество с номером i переходит в подмножество с номером / под
воздействием матрицы Ак, как булевской матрицы, в противном случае он*
равен 0. Тогда матрица переходов М'(о) в. а. V равна 2а*(°)^
Каждая матрица В. имеет точно одну единицу в каждой строке,
поэтому матрицы М' (а) стохастические. Вектор заключительных
состояний /' имеет 1 на местах, соответствующих подмножествам, содержащим
состояние, соответствующее 1 вектора /, и имеет остальные координаты CL
Корректность конструкции следует из того, что под воздействием
матриц А. состояние автомата 21 не может перейти в другое двумя разными,
путями. Поэтому, в частности, если At>A -=Ак, то B.*Bj=Bk.
Проблема. Описать подполугруппы матриц со свойством,
указанным в лемме 3.
Возможно, что нетривиальные подполугруппы таких матриц помогут
найти новые операции, относительно которых замкнуты вероятностные
события.
Неизвестно, как определить, представляет ли обобщенный автомат
вероятностное событие. В частности, обобщенный автомат может
представлять нечеткое множество (т. е. Vx n.M (х) •/£ [0, 1 ]), не являющееся
вероятностным событием.
Действительно, можно построить [16] в. а., представляющий
в. с. г (#), такое, что язык {х/г (я) = 1/2} не регулярен. Тогда и
р (x)=r (x)(l—r (x))+(l—r (х))г (х) = 2г (х)(1—г (х)) также в. с. [7],
причем р (х) <; 1/2 и язык {х\р (#) = 1/2} не регулярен. Слова, на которых
в. с. равно 0 или 1, образуют регулярный язык. Следовательно, нечеткое
множество (представимое в обобщенном автомате) 2р (х) не является в. с.
158

Т. е. регулярное л. с. над полем действительных чисел с
коэффициентами между 0 и 1 может быть не представимо в в. а.
Заметим еще, что множество сечений л. с. 2 -р (х) для А£ [0, 1] (все
они стохастические языки) совпадает с множеством сечений в. с. р (х).
Это показывает, что по множеству сечений нечеткого множества, пред-
ставимого в обобщенном автомате, нельзя определить, представимо ли
оно в в. а.
Далее, пусть q {х) = 112. Тогда \р (x)—q (x)\ по аналогичной причине
не является в. с, т. е. класс вероятностных событий не замкнут
относительно операции «симметрической разности» [6].
Следующий результат формулируется для о. л. а. над полем, но имеет
непосредственное отношение к настоящему параграфу.
Лемма 4. Если К — поле и регулярное л. с, над К а (х) принимает
значения только 0 или 1, то оно регулярно и над полем GF (2), т. е.
представимо в конечном автомате.
Доказательство. Пусть а(х) представимо в инициальном о. л. а.
^^(F, М, F0, 2> ¥> Ф) наД полем К и принимает значения 0, 1. Тогда
все достижимые векторы (т. е. векторы сра . . . <pff (F0)) принадлежат
гиперплоскостям ф (х) = 0 и ф (х) = 1 пространства V.
Если существуют два достижимых вектора, различимых [4] только
не пустым экспериментом (т. е. лежащие в одной гиперплоскости, но
некоторое отображение <р<^. . . cpffi переводит их в разные), то различающее
их отображение переводит соответствующую гиперплоскость не в себя.
Поэтому в ней все достижимые векторы будут лежать в двух параллельных
плоскостях размерности ^ п—2, образы которых после эксперимента
лежат в гиперплоскостях ф (х) = 0 и ф (я) = 1.
Далее, если имеется плоскость размерности г, лежащая в одной из
гиперплоскостей, и в ней имеются два достижимых и различимых вектора,
то все достижимые векторы в этой плоскости принадлежат двум
параллельным плоскостям размерности не более г—1, образы которых
принадлежат гиперплоскостям ф(#)=0 и ф(#) = 1.
Итак, если мы имеем 2п различимых и достижимых векторов, то кроме
них нет других достижимых. Следовательно, л. с. а (х) имеет конечное
число производных и представимо в конечном автомате.
Из леммы вытекает, что л. с, представимое в обобщенном автомате-
и принимающее значения только 0 и 1, представимо в вероятностном
(и даже конечном) автомате. Нам неизвестно, верно ли утверждение леммы
для о. л. а. над полукольцом.
Классы вероятностных автоматов
По аналогии с детерминированными автоматами рассмотрим
вероятностные автоматы с остановкой, т. е. останавливающиеся после прихода
в заключительное состояние.
Дадим необходимые определения.
Обозначим через В класс всех в. а., а через 9SJ? — класс всех в. с.
Пусть Вг (к) обозначает класс в. а., имеющих к заключительных
состояний, занумерованных 1, 2, . . ., к, из которых возможен переход только
159

в фиксированное незаключительное состояние (обозначаемое W), из
которого, в свою очередь, возможен переход только в него же.
Каждый в. а. из Вг (к) представляет ^-мерное векторное л. с, i-тая
координата которого равна вероятности нахождения в i-том
заключительном состоянии в соответствующий момент времени.
Вероятностные автоматы с остановкой отличаются от в. а. из Вх (1)
только отсутствием состояния W (которое не влияет на представимость).
Но нам удобнее будет провести анализ и синтез в. а. из Вг (1), используя
уже полученные результаты.
Каждый в. а. из Вг(1) представляет в. с. р(х), обладающее следующим
свойством:
2p(«)<i
UV—JC
для любого #62*. Обозначим класс всех в. с, обладающих этим
свойством через (ЗЛ1. Обозначим
с^=(р (я) | р (х) е <злг & р (хт) б ад,
и
^2=Ь(х)\р(х)е<зп&^р(х)^1\.
Весовая грамматика типа 3, все веса которой положительны и сумма
весов продукций с фиксированной левой частью не превосходит 1,
порождает л. с, которое, как следует из параграфа о грамматиках, представимо
в некотором в. а. Обозначим класс таких в. а. через В2.
Опишем метод синтеза в. а. класса Вг (1). Для промежуточных
построений нам понадобятся в. а. классов Вг (к) для к > 1.
Элементарными для Bt(l) назовем вероятностные события а0 и
d
2 «Л, где о,£2 = {а1> •••» °d) и а*=0 или а. = 1 для i = 0, 1,.. ., d.
*=1
Порождающие операции: пусть р (х) = (рг (х), . . ., рк (х)) £ Вг (к) и
q(x)=:(q1(x), . . ., #,(#)) £ В1{1) для некоторых к и I, тогда R.p{x)-=.
= (Р* (х) • Pi (*)> • • •. Pi (*)> •-> P*i(*)'Pk (*)) £Вг(к— 1) (итерация), р р].
- 9 И = (Рг И> • • .» Р* (*) • ?i (*)> • • •» Pi {*) • Qi И> • - м ft (ж)) G Я2 (Л + I — 1)
(произведение), [*, /] р (а:) = (рг (х\ ...,pj {х), . . ., р. (а:) + ру (ж), . . ., рк (х)) £
^Вг(к — 1) (отождествление) и (ар + Р?) (^) = (aPi (#)> • • марЛ (ж), р^ (х), . ..
..., Р<7/(я)) £ Д2 (Л + Z) (сумма) для а, [3 > О и а+ [3^1. Здесь j5,
обозначает, что координата с индексом i аннулирована, а операции над л. с.
были определены ранее1.
Вероятностное событие а0Х представимо в в. а. из Вг (1) с
единственным, отличным от W состоянием S0 — начальным, и если а0=1» то и за~
ключительным. Переходы однозначно определяются условием, что в. а.
принадлежит Вг (1).
а
В.с. 2 ai°i представимо в в. а. с состояниями: S0 — начальное,
*=1
$1> • • •» $d и W. Состояние 5^ — заключительное, если только af. = l.
Переходы детерминированные: под воздействием of. S0 переходит в Si9
а каждое S. в W.
1 Соответствующие в. а. обозначим R4V9 V1[i]V2, [i, j]V, aV1 + pV2.
160

В. а. из Вх (к—1), представляющий R.p (х) для р (х)(*Вг (к),
получается из в. а., представляющего р (х) аннулированиемг-того
заключительного состояния, и если имелся переход в него из некоторого состояния Sm
с вероятностью р, то теперь добавляются переходы в каждое состояние
с номером / с вероятностью р-тсу, где Kj — координаты начального
распределения.
В. а. из В± (к+1—1), представляющий p[i]q (x) для р (х)£Вг (к) и
q (х)£В1 (I), получается из в. a. V± и V2, представляющих/? (х) и q (x),
аннулированием t-того заключительного состояния V1, и если имелся
переход в него из некоторого состояния Sm в. a. V± с вероятностью р,
то теперь добавляются переходы в каждое состояние в. a. V2 с номером /
с вероятностью р*ъ{*\ где тт^?} — координаты начального распределения
в. a. V2, при естественной нумерации оставшихся заключительных
состояний в. a. V± и V2.
Операция отождествления соответствует отождествлению двух
заключительных состояний (и аннулированию переходных вероятностей одного
из них).
И, наконец, сумма для в. a. V± и V2 получается формальным
объединением в. a. Vx и V2J где начальное распределение есть (атг(1), (ЗтгГ2)).
Теперь докажем, что каждое событие р (х), представимое в в. а. V из
J5i (1), можно получить из элементарных указанными операциями.
Рассмотрим систему уравнений (1) для в. а. V:
п
U = 2 nij • fj + ri для i = 1, 2, . . ., n,
d
где izij = 2 Prijar9 л- с* /я» соответствующее W, уже отождествление с О,
а л. с. fn_v соответствующее заключительному состоянию,
отождествлено с 1.
п—1 п—1
Итак, /1 = Ц«1у/я---»/^=2тея-2.у/у. /*-! = ! и /« = °- П°-
строим в. a. V{, . . ., V*_2 из ^(тг— 1), представляющие векторные события
(TUn, . . ., TZlf ^j), . . ., (^2, 1» • • •» Пп-2> я-l)-
w—1
Решая систему (1), мы вычисляем fx= 2 TCu • ^i/ • // и подставляем
во все остальные уравнения. Поручим систему относительно /2, .••>/„-!»
имеющую векторы коэффициентов строк представимыми в в. a. F|, . . ., F^2
из 5х(гг — 2), полученных из ^llK^i^i), • • •> ^-21^](-^1^1)
соответствующим отождествлением. Последняя строка /я_1 = 1, разумеется, не меняется.
Если на i-том этапе решения системы (1) исключены неизвестные
/i, . • •> /t-_i и полученная система относительно Д., ..., fn^ имеет векторы
коэффициентов строк представимыми в в. a. V\, . . ., F*_2 из B1(n-ri), то
значение ji из первого уравнения подставим в остальные, получим систему
относительно fi+1, ..., /я_х, векторы коэффициентов строк которой пред-
ставимы в в. a. V\^v . . ., V£l из Вх (п — i — 1), полученных из
F*+1[l] (iJjF!), ..., Vn_2 [1] (i?i^*) соответствующим отождествлением.
На п — 2 этапе получим в. a. Vn~2, представляющий f^. Аналогично
можно построить /1? ..., /я_3. Если iz = (izli .. ., Tzn) — начальное распреде-
161

ление в. а., представляющего р(х), то р(#) = 2тс*/* (т- е- получается
суммированием из fv . . ., У^).
Классы Вг(1) и В2 фактически рассматривались в работах [17, 20, 30],
но остается неизвестным, какие в. с. в них представляются.
Сформулируем соответствующие проблемы.
I. Совпадает ли множество в. с, представимых в в. а. класса Вг(1),
с 9JV
П. Совпадает ли множество в. с, представимых в в. а. класса В2, с SD^?
III. Порождают ли операции над в. с. р и q:
*Р + Р<7 (где а, р > 0, а + р<1), p.q
{р}в=(1-а)(Х + ар + а»р»+...) (где 0<а<1)
из в. с, элементарных для Вг(1), все в. с. из З^ и только их?
IV. Порождают ли эти операции из элементарных в. с. все в. с. из 9W2?
Отображения, задаваемые продукциями
В [26] даны необходимые и достаточные условия, когда отображение,
задаваемое однократным применением системы продукций, переводит
всякий регулярный язык в регулярный. Для нечетких множеств не
удается определить естественным образом отображение с помощью
нескольких продукций, или с помощью одной продукции, содержащей несколько
переменных в правой части, так как задаваемые при этом отображения
слов не однозначны.
Для продукции А -> J5, задающей однозначное отображение, и любого
нечеткого множества р (х) определим (А -> В)р (х)=р ((А -> В)х), где
(А -> В)х — образ слова х при отображении, задаваемом продукцией
А ->В.
Если в правую часть продукции входит только одна переменная,
но более чем один раз, то такая продукция не сохраняет регулярность [26]
и, следовательно, может переводить вероятностное событие в нечеткое
множество, не являющееся вероятностным событием. То же относится
к л. с. над полем (см. лемму 4).
Напомним еще, что для всякого вероятностного события нечеткие
множества р (ху), р (ух) яр (г/), где г/— фиксированное слово в 2*, также
являются вероятностными событиями [7]. Поэтому все не рассмотренные
случаи охватываются следующей леммой.
Лемма 5. Если р (х) — вероятностное событие и а (х) —
фиксированное слово в алфавите #|J2, то q (х)=р (а(х)) — также вероятное
событие. В частности, q (x)=p (хх) будет вероятностным событием
аналогично детерминированному случаю [27].
Доказательство. Пусть р (х) представимо в в. а. V с п
состояниями. Если pi (х) — вероятностные события, то 2cj?,. (х) при с. ^ 0
и 2£г==1 также в. с. [7]. Поэтому достаточно доказать теорему для случая,
когда в. а. V имеет начальное состояние S±. В слове а^х)=ахха2х. . .
.. . akxak+11 Я; £2* без ограничения общности можно считать ак+1 пустым
словом, так как р' (х) = р (хак+1) снова в. с. Считаем к^1, так как случай
а (х) £ 2* тривиален.
162

Состояниями нового вероятностного автомата U являются векторы
(S. , . .., Sin(k_1)+1), где Sij — состояние в. а. V. Начальное распределение р
п(к—1)+1
имеет координаты p(S< . . ., Sin{k_1)+1)= П Р (Srj, alp Stj), где гу =
= |-^—17г + 1 и (;-= 7~~ + 2. Вероятности переходов определяются
формулой:
q((S' , . . ., 5; ), х, (S. , . . ., S. ))= И P(Si» x> SiX
#£2*- Корректность определения легко проверяется.
Для состояния S =(S. , . . ., S. ) в. a. U обозначим S(0)= S, , и
если £(г) = £' , то /5 (г + 1) = S, . Состояние в. a. U заключительное,
если и только если S (ft—1) — заключительное состояние в. а. V. Введем
обозначения N{S)={S{0), 5(1), . . ., S(k — 1)} и N = {N(S)\ S —
заключительное состояние в. a. U). Вероятностное событие, представимое в. а. С/,
обозначим q(x).
Заметим, что p(a(x)) = %{8iv...,sik_1),8ik& [p(Sv av *> Si1)'P(SiL,
а2, х, S{)* ... *P(Si • akx, S4 )"]. Сумма берется по всем наборам со-
стояний (S. , . . ., S. ) и всем заключительным состояниям 5. .
V *l' %к-\) гк
Вычисляем вероятность перехода из начального распределения р в
некоторое состояние (5,г, .. ., Sin(k_1)+1):
g(P, *, (^,...,^^
Гю(А:—1)+1 и (fr—1)4-1 "] «(Л—1)4-1
X П P(SrJ9 alp S\j) П P(SiJ9 x, S)\= П P(SrJ9 aljX, S<\
L j=i y=i J y=i y
так как
2[P(^, a, S,)--P(5„ x, S,)l = />($„ ax, 5y).
Поэтому
w(fc —1)-J-1
? (*) = 2{s i iv(S)6A-} П ^ (5ry, «„*, Stj) = 2ff [P (S1( a^, 5 (0)) X
i=i
ХР(5(0), a2z, 5(1)).... -P (5 (ft-2), afcs, 5 (ft- 1))]- p (a (ж)).
Теорема доказана.
Проблема устойчивости
К сожалению, до сих пор об устойчивости вероятностных автоматов
известно очень мало. Правда, в [28] анонсируется, что в диссертации [29]
найдены ряд критериев устойчивости, но эта работа не опубликована.
В. а. называется устойчивым, если Vs > 038 >0 такие, что
изменение вероятностей переходов в. а., отличных от 0 не более чем на 8,
влечет изменение представимого в. с. не более чем на s на каждом слове.
Рабин [5] определил устойчивый в. а. с изолированной точкой
сечения X как такой, у которого малое изменение вероятностей переходов,
отличных от 0, не изменяет Х-представимого языка.
Ясно, что устойчивость в смысле первого определения влечет
устойчивость в смысле второго.
163

Прежде всего приведем пример неустойчивого по Рабину в. а.
Рассмотрим в. а. У с 5 состояниями. Sx — начальное, S2 —
заключительное. Матрицы переходов:
М(0) =
О 1/2 1/2 О О
0 0 10 0
0 1 0 0 0
0 1 0 0 0
0 0 10 0
М(1) =
1
0
0
0
0
0
1/2
0
0
0
0
0
1/2
0
0
0
1/2
0
1
0
0
0
1/2
0
1
Х = 3/4 — изолированная точка сечения и VnVi[0 (1п0У §Т (V, X)].
Пусть только Рзз(1) и Рзб(1) подвержены возмущениям и для 8^>0
P;3(1) = P33(1)(1-8) = 1/2(1-S),
Р«(1) = Рзб(1)(1+8) = 1/2(1+8).
Пусть щ таково, что (1 -(- 8)ио ^> 5. Рассмотрим действие слова 0(1М))\
Для V придем к распределению (0, 1/2, 1/2, 0, 0), для V1 — к
распределению (0, а., р„ 0, 0), где а0=1/2, Р0=1/2, а,+1 = а, (1 - (1/2)-о) -f
+ Р, (1/2)»о(1 + 8)«о, р/+1 = р. (1 - 1/2)»о) (1 + 8)»« + а, (1/2)»о. Обозначим
Л,=а,-р,, Д0 = 0. Если а,<3/4, то Д,+1 = ам - р,+1 = (а, - р,) +
-f- 2 (l/2)wo ф. (1 -J- Ь)по — а<) > Дг. + (1/2)"о. Таким образом, для некоторого
i0^'2wo это условие будет нарушено и 0 (lwo())*o£ Г(РГ/, X).
Заметим еще, что автомат V является конечно-аппроксимируемым [13].
Известные примеры в. а., которые не являются аппроксимируемыми
[13, 33], построены на той же идее, что и примеры неустойчивых в. а.
Можно предполагать, что устойчивость влечет аппроксимируемость и
что верно обратное при дополнительных предположениях
(аппроксимируемость близких в. а. или аппроксимируемость при выборе каждого
состояния в качестве начального).
Пусть теперь дан в. а., некоторые из переходных вероятностей
которого являются неопределенными величинами р1у . . ., рк. Такой автомат
представляет регулярное л. с. над кольцом многочленов отрх, . . ., рк.
Дифференцирования здесь понимаются как вычисление производных
в пространстве параметров р1у . . ., рк по направлениям, которые не
изменяют стохастичности матриц. Такие направления будем называть
допустимыми.
Определение 2. Вероятностный автомат называется
устойчивым относительно выделенного подмножества переходных вероятностей,
если Vs > 0 3 8 > 0 такие, что допустимое изменение выделенных
вероятностей не более чем на 8 влечет изменение представимого в. с. не более
чем на s на каждом слове.
Можно дать некоторый критерий устойчивости в терминах
дифференцирований.
Если производная в. с. по допустимым направлениям в некоторой
окрестности U точки/?!, . . ., рк ограничена общей константой с на каждом
слове, то в. а. относительно выделенных вероятностей переходов рХ1 . . ., рк
устойчив.
164

Доказательство. Для каждого слова х
f (х) (p + A) = f (х)(р) + D,f (х) (р + 6Д), где р = (Pl, . .., рк),
А — изменение р в окрестности U и O^S^l. По условию DJ(х) <^с
в окрестности U, т. е. можно положить 8 = е/с.
Наоборот, если имеется последовательность слов х±1 . . ., хп, . . .,
такая, что в некоторой окрестности параметров D^f (x.) > i, то в. а.
неустойчив. Доказательство аналогично.
Однако неизвестно, разрешимы ли алгоритмически последние два
свойства в предположении, что все вероятности перехода рациональные
числа.
Общие линейные автоматы над кольцом целых чисел
В [24] М. П. Шютценберже ввел семейство Q автоматов, каждый из
которых состоит из контрольного устройства — конечного автомата А
и неограниченной памяти, реализуемой iV-мерными целочисленными
векторами v. Эта часть памяти играет пассивную роль и преобразуется
согласно конечной вычисляющей программе, не зависящей от вектора v
и вычисляющей только следующие операции: приведение целых чисел
по целому положительному модулю с верхней границей, зависящей от
входной буквы и состояния А, умножение целых на целые числа,
абсолютная величина которых также равномерно ограничена сверху, сложение
и вычитание целых чисел.
Входное слово допускается, если после его подачи А приходит в
отмеченное состояние д, а вектор v не принадлежит линейному
подпространству Vq iV-мерного целочисленного векторного пространства V*
причем Vq зависит только от q.
Известно [25], что полное состояние автомата из Q можно описать
целочисленным вектором, который линейно преобразуется посредством
целочисленной матрицы, зависящей от поступившего входного символа.
Слово допускается, если первая компонента вектора — состояния под
действием входного слова х — станет равной 0.
Класс событий i?, представимых в автоматах из Q, замкнут
относительно операций пересечения, объединения, произведения, итерации и
обращения слов [24]. Там же доказано, что л. с, представимые в
автоматах из Q, могут быть охарактеризованы тем, что они получаются из
конечного числа образующих с помощью операций произведения, вычитания
и квазиобращения (аналог взятия обратного элемента в кольце). Это
является частным случаем нашей теоремы 1.
Далее в [25] определяется класс «считающих автоматов» («счетчиков»),
являющихся подклассом Q. Счетчик порядка к задается с помощью
нескольких упорядоченных наборов конечных автоматов: {А1Ъ . . ., Alit}r
{А21, . . ., A2it}, . • •, {Akil, . . ., Akik} с .общим входным алфавитом Г и
полиномом с целыми коэффициентами Р (аъ .. ., ак).
Пусть каждый автомат А4- представляет событие Т (A.j) и а^(х)
равно числу различных представлений слова х в виде произведения
хг • . . . • xir, где Xj G T (ArJ).
165

Выходом счетчика после подачи на вход слова х является число
Р К (я), . . ., ак (х)).
Методом «линеаризации» [4, § 3] доказывается [25], что каждый
счетчик можно заменить эквивалентным (в смысле совпадения выходов на
одинаковых входных словах) линейным счетчиком, т. е. счетчиком, у
которого Р является линейным многочленом (к тому же с целыми
коэффициентами).
Теперь мы легко установим, что линейные счетчики являются частным
случаем о. л*, а.
Будем рассматривать Т (A4j) как л. с. со значениями 0 и 1. Пусть
fr = T (Arl) • . .. Т (Arir), где знак (•) обозначает произведение л. с. Тогда
л. с. fr = ar представимо в некотором о. л. а. 21,.. Далее, взяв прямую сумму
2ti © • • • © 21А, получим о. л. а., представляющий векторное линейное
событие (av . . ., ак), а затем можно так изменить выход, чтобы он равнялся
заданной линейной комбинации ах, ...,ак.
Основной результат [25] в наших терминах гласит: если регулярное
л. с. / над кольцом целых чисел таково, что
1 а ' -и» 0 при [хд -> оо для всякого а>0,
то л. с. / может быть представлено в некотором линейном счетчике и
наоборот.
Эту теорему можно еще выразить так: если отношение информации,
которую запоминает о. л. а. над кольцом целых чисел в процессе работы
над словом х9 к экспоненте длины слова х стремится к 0 с ростом [хд —
длины слова х, то этот о. л. а. можно представить как линейный счетчик.
Сформулируем без доказательства следующее утверждение о
целочисленных л. с. Если некоторый о. л. а. 21 над полем комплексных
чисел С представляет целочисленное л. с. (т. е. все коэффициенты л. с.
действительные целые числа), то в подходяще выбранном базисе элементы
матриц переходов А (х) для всех слов х будут рациональными числами.
Заключительные замечания
Известны два типа конструкций, частным случаем которых являются
вероятностные автоматы. Первая конструкция — это вероятностные
бесконечные автоматы (и вероятностные грамматики). Например,
вероятностная машина Тьюринга, управляющей головкой которой является
вероятностный автомат. Вторая конструкция — общие линейные
автоматы. Возможно также рассмотрение машины Тьюринга, управляющей
головкой которой является общий линейный автомат. Например, если
машина Тьюринга использует датчики случайных чисел с неизвестными
вероятностями появления единиц рг, . . ., рк, то такая машина вычисляет
линейное событие над кольцом аналитических функций от к переменных
Ръ • • -, Рк.
Выяснение возможностей машины Тьюринга, управляющей головкой
которой является общий линейный автомат, и прежде всего сходства
166

таких машин с машинами Тьюринга, вероятностными машинами
Тьюринга и общими линейными автоматами и отличия от них представляет
достаточно интересный класс задач.
ЛИТЕРАТУРА
1. Б. А. Трахтенброт, Я. М. Барздинъ. Конечные автоматы. М., 1970.
2. Р. Калман, П. Фалб, М. Арбиб. Очерки по математической теории систем. М.,
«Мир», 1970, 398 стр.
3. С. Гинзбург. Математическая теория контекстно-свободных языков. М., «Мир»,
1970, 326 стр.
4. А. А. Мучник. Общие линейные автоматы. «Проблемы кибернетики», вып. 23,
стр. 171—208.
5. М. О. Рабин. Вероятностные автоматы. Кибернетический сборник, 9, 1964,
стр. 123—141.
6. L. A. Zadeh. Fuzzy sets. Information and Control, 8, N 3, 1965, 338—353.
7. M. Nasy, N. Honda. Fuzzy events realized by finite probabilistic automata.
Information and control, 12, N 4, 1968, 284—303.
8. M. Nasy, N. Honda. Mappings induced by PGSM—mappings and some recursively
unsolvable problems of finite probabilistic automata. Information and Control,
15, N 3, 1969, 250—273.
9. В. А. Непомнящий. Рудиментарные предикаты и тьюринговы вычисления.
Докл. АН СССР, 195, № 2, 1970, стр. 282—284.
10. С. К. Клини. Представление событий в нервных сетях и конечных автоматах.
Сб. «Автоматы». ИЛ, 1956, стр. 15—67.
11. Ю. И. Янов. О тождественных преобразованиях регулярных выражений. Докл.
АН СССР, 147, № 2, 1962, стр. 327—330.
12. К. Шеннон. Некоторые результаты теории кодирования для каналов с шумами.
Сб. «Работы по теории информации и кибернетике», стр. 509—531.
13. A. Paz. Fuzzy star functions, probabilistic automata and their approximation by
nonprobabilistic automata. IEEE Conf. Record 1967 Eighth Annual Sympos. on
Switching and Automata Theory, 1967, 280—290.
14. A. Paz. Some aspects of probabilistic automata. Information and Control, 9, N 1,
1966, 26-60.
15. A. Paz. Formal series, finiteness properties and decision problems. Ann. akad.
scient. Fennicae, Ser. A 1, N 493, 1971, 16.
16. P. Turakainen. On probabilistic automata and their generalization. Ann. acad.
scient. Fennicae, Ser^A 1, N 429, 1968, 7—52.
17. M. M. Херц. Энтропия бесконтекстных языков. НТИ, серия 2, 1969, № 1, стр.
стр. 71—102.
18. W. Kuich. On the entropy of the context-free languages. Information and Control,
16, N 2, 1970, 173—201.
19. И. М. Копи, К. С. Элгот, Д. Б. Райт. Представления событий логическими
сетями. Кибернетический сборник, вып. 3, 1961—1962, стр. 147—166.
20. A. Salomaa. Probabilistic and weighted grammars. Information and Control, 15,
N 6, 1969, 529-544.
21. К. деЛеу, Э. Ф. Мур, К. Шеннон, Н. Шапиро. Вычислимость на вероятностных
машинах. Сб. «Автоматы». ИЛ, 1956, стр. 242—278.
22. М. Cohn. A theorem on linear automata. IEEE Trans. Electronic Comput., 13, N 1,
1964, 52-53.
23. L. C. Eggan. Transition graphs and the star-height of regular events. Michigan Math.
J., 10, N 4, 1963, 385—397.
24. M. P. Schiitzenberger. On the definition of a family of automata. Information and
Control, 4, N 3, 1961, 245—270.
25. M. P. Schiitzenberger. Finite counting automata. Information and Control, 5, N 2,
1962, 91-107.
167

26. A. H. Маслов. Продукция и конечные автоматы. Сб. «Информационные вопросы
семиотики», лингвистики и автоматического перевода, вып. 3, ВИНИТИ, 1972,
стр. 97—104.
27. А. Н. Маслов. Оценки числа состояний конечных автоматов. Докл. АН СССР, 194,
№ 6, 1970, стр. 1266—1268.
28. Dissert. Abstracts, 28, N 12, p. 1, 5012—В.
29. G. М. Flachs. Stability and cut points of probabilistic automata. D. Sc. Thesis in
Electrical Engineering. Michigan State .Univ., 1967.
30. T. Huang, K. S. Fu. On stochastic context-free languages. Information Sci., 3, N 3,
1971, 201—224.
31. E. S. Santos. Probabilistic Turing machines and computability. Proc. Amer. Math.
Soc, 22, 1969, 704—710.
32. E. S. Santos. Maximum sequential-like machines andchaines. Math. Syst. Theory,
3, 300—309.
33. Реферативный журнал «Математика», 1966, реферат 11В186.

В. А. ОСИПОВА
К ПРОБЛЕМЕ СОПРЯЖЕННОСТИ В ПОЛУГРУППАХ
Понятие сопряженности в полугруппе вводится по аналогии с понятием
сопряженности в группе. При этом возникают два естественных понятия
сопряженности (сопряженность I и II рода).
Пусть полугруппа П задана образующими
а19 а2, ...,ап (1)
и определяющими соотношениями
Ai = Bi (i = l,...,го).
Назовем ^-преобразованиями полугруппы П элементарные
преобразования П, а также переходы от слова вида a^R к слову Raj и обратные
переходы, где aj — произвольная буква алфавита (1), R — произвольное
слово в П.
Будем говорить, что слова X и Y полугруппы П сопряжены в I роде
(и обозначать X^Y в П), если можно указать последовательность
ZxIo^Zj-» ... —> Хкnz Y,
где каждый переход X. -> Х.+1 при i=0, 1, . . ., к—1 есть с-преобразо-
вание П.
Будем говорить, что слова X и Y полугруппы П сопряжены во II роде,
если можно указать слово Z, такое, что
XZ = ZY в П.
Заметим, что отношение сопряженности II рода не симметрично.
Очевидно, если полугруппа является группой, понятия
сопряженности I и II рода совпадают с понятием сопряженности в группе.
Можно поставить следующие две алгоритмические проблемы.
Указать алгоритм, позволяющий узнать для любых двух слов
полугруппы, сопряжены они в I роде (во II роде) или нет. Эти проблемы
назовем соответственно проблемой сопряженности I рода и II рода.
Помимо вопроса об их разрешимости возникает вопрос о
взаимоотношении между тремя проблемами: тождества, сопряженности I рода,
сопряженности II рода. Эти задачи были поставлены П. С. Новиковым в 1962 году.
В настоящей работе доказывается независимость этих проблем и для
любой пары из них приводятся примеры полугрупп, в которых одна
169

из рассматриваемых проблем разрешима, в то время как другая
неразрешима.
В настоящей статье используется терминология и символика работы [1 ].
Полугруппу П, заданную системой образующих ЗД и определяющих
соотношений 93, обозначим <21,- 93>. Проекцию слова X на алфавит 01
обозначим Рг^Х).
Результаты этой статьи опубликованы без доказательства в [3].
§ 1. Проблемы сопряженности I и II рода
1.1. Приведем пример полугруппы с неразрешимой проблемой
сопряженности I рода, для которой разрешима проблема сопряженности II рода.
В работе [5] (стр. 173) приведен пример полугруппы с неразрешимой
проблемой тождества. Пусть 210 — алфавит этой полугруппы, 930 =
{Af = Bf, i = 1, . . ., к} — система определяющих соотношений. Отметим,
что слова А^ В4 i = 1, ..., к — непустые.
Пусть буква / не принадлежит алфавиту 510. Положим ^Ij = ^2I0U{/}j
Пг = (?&i'9 ЗЗо)4 Легко видеть, что если Q и R — слова в алфавите 210, то
Q = R в <^210» ^о)* тогда и только тогда, когда Qf ~ Rf в Пг. Отсюда
вытекает, что в полугруппе П1 неразрешима проблема сопряженности
I рода.
Обозначим буквы алфавита 01х через Ь2, ...,ЬЯ. Пусть буква g не
принадлежит алфавиту 212. Добавим к системе соотношений S&0
следующие соотношения:
gb4 = g,
W:big = gj
gg = g, i = l,...,n.
Очевидно, в полугруппе П2 = <^. <232>, где 212 = ЗДМ, Ъ2 = ЪоиЪ'
также неразрешима проблема сопряженности I рода.
Проблема сопряженности II |рода в П2 разрешима, так как для
любых двух слов X и Y в алфавите 212
Xg = gY в П%.
1.2. Приведем пример полугруппы с неразрешимой проблемой
сопряженности II рода, для которой разрешимы проблема тождества и проблема
сопряженности I рода.
Рассмотрим указанную в п. 1.1 полугруппу 1Г1 = <^211; 930)> с
неразрешимой проблемой сопряженности I рода. Положим
Gj = G', = bJt
Gn+i=AV G'n+i=Bi>
где 7 = 1, . .., /г, i = l, . . .,&.
Пусть буквы с, d, е. (i = 1, . . ., т) не принадлежат алфавиту 211в
Рассмотрим алфавит
%:%U{c, d, е.}, * = 1,. . ., т
170

и систему определяющих соотношении
e.cGi — се{,
<233: e.bJ = bjei,
eA = G\de.y i = l,...,m; j = l,...,n,
где т = n + 2Л.
Докажем, что в полугруппе П3 = <^13; 953)> неразрешима проблема
сопряженности II рода.
Следующие две леммы очевидны.
Лемма 1. Если X=Y в П3, то Рг{^> (X)iizPr{ei} (F).
Лемма 2. Если X=Y в Я3, то Рг{С| d} (X)z°zPr{c> d} (Y).
Лемма З. Если последовательность элементарных преобразований
полугруппы П3
Xei^X0-^X1^...^Xt^...-^Xk^zYei (1)
имеет ранг X и не содержит поворотов (см. [1J, стр. 42), то послед-
няя буква преобразуемого слова не участвует в преобразованиях этой
последовательности.
Доказательство проведем индукцией по X.
При Х = 0 лемма очевидна.
Пусть X ]> 0 и при X' <[ X лемма доказана. Докажем ее для
последовательности (1), ранг которой равен X. Очевидно, что все слова Хг, ...
...,Хк последовательности (1) непусты. Выделим в каждом из них
последнюю букву: XtznX'tait. По условию aio и aijc совпадают с е..
Имеем последовательность букв
е{, ah, . . .,ait, . . ., aijc^ е., (2)
где соседние буквы ai( и ait+l различны тогда и только тогда, когда они
затронулись преобразованием Xt -> Xt+1.
Итак, если в (2) нет букв, отличных от е., то в преобразованиях
последовательности (1) последняя буква преобразуемого слова не
участвует.
Пусть в последовательности (2) есть буквы, отличные от е{0 Допустим,
что не все они отличны от е., т. е. что ailzizei при некотором I, 1 <^1<С.к.
Тогда XlZozX'le. и последовательность (1) имеет вид
Хи=Х0 -* ... ^X',et-* . .. -*XkzszYe-t.
Ранг обеих последовательностей Хн-+ ... -> Х\е. и Х\е.-+ ... -> Yei
меньше X. По индуктивному предположению в каждой из них, а
следовательно, и во всей последовательности (1) последняя буква
преобразуемого слова не участвует.
Осталось рассмотреть случай, когда все буквы aif (l^t^k — 1)
отличны от е.. Рассмотрим первое преобразование Х0-> Хг. Это есть
преобразование по одной из следующих схем:
в) Х^Х'^-.Х'^Ь^Х,,
б) X^X'.ce^X'^cG^X,,
в) X^X'^de.^X'^d^zX,.
171

Тогда X1zszX,0eiRJ где R принимает значения bj, cG., d. Если все буквы
ац отличны от е., то Xt^iX'teiR, i^t^k—1, ив последовательности
элементарных преобразований Хг з: X'0e.R -^ ... -> Хк_ге^ zsz Хк_1 последние
d(R) букв слова Хг не затрагиваются. По индуктивному предположению
не затрагивается и последняя буква ef слова Хг.
Рассмотрим последнее преобразование Хк_г-> Хк. В зависимости от
того, какой из случаев а) — в) реализуется, имеем:
а) Хк_г zsz X'^e.bj ^ X,k_1bjei zsz Хк,
б) Хм з: Х;.ЛсС, -+ Х^се, з= Х„
в) хм з: х;_Л<* -* х;.^; <fe, з: xfc,
и, следовательно, в последовательности (1) есть поворот, что
противоречит условию. Лемма 3 доказана.
Лемма 4. Для любых двух слов Q и R в алфавите ^ Q ~ R в
П1 тогда и только тогда, когда существует слово X в алфавите 213>
такое, что XcQd = cRdX в /73.
Доказательство. Пусть Q — R в Пг. Тогда можно указать
последовательность с-преобразований без тавтологических переходов
Q = Q0-*Qi-+...->Qt-»Qw-+...-*Qx = R, (3)
в которой каждый переход Q. -> Qi+1 при i = 0, 1, ..., X — 1 есть либо
а) переход Q.zsibjP-* Pb -^zQi+lJ либо в) элементарное преобразование Пг.
Доказательство проведем индукцией по числу X с-преобразований
последовательности (3). Пусть Х=1. В случае a) Qzszb-P, RiszPbj*
Положим X = е •. Тогда в JT«: XcQdz°ze..cb..Pd = ce,Pd = cPb.de, zn cRdX»
В случае в) Q->R есть элементарное преобразование J7V Тогда (?зг
zsiMAN, Rzn MBN, где либо А = В, либо В = А есть некоторое
определяющее соотношение At = Bt системы 930. Каждому слову L в
алфавите 512 поставим в соответствие слово El следующим образом: если
Lz2zb{l . . . bif9 то ELzneit .. . eix. Пусть Az°zAt, Bz°zBt. Положим Х =
= ENen+tEM. Тогда в П3: XcQi^zENen+tEMcMANd=: ENen+tcANMdEM =
= ENcNMBden+tEM = cMBNdENen+tEM^cRdX. Если B^zAr AzszBt9 то
положим X = ENen+k+tEM.
Пусть при всех Х;<^Х утверждение верно. Докажем его для X.
Рассмотрим первое преобразование (?0-> Q\ последовательности (3). Как мы
только что доказали, в случае X = 1 можно указать слово Xl9 такое*
что XxcQd = cQ1dX1 в /73. По индуктивному предположению существует
слово Х2, такое, что X2cQxd = cRdX2. Тогда в #3: X2XxcQxd = X2cQ1dX1 =
= cRdX2Xv
Пусть теперь для некоторого слова X в алфавите 2I3 XcQd = cRdX
в /73. Тогда существует последовательность элементарных преобразований
XcQdzszMi-» ...->Mt,1^Mt-> ...-+Mk^rcRdX, (4)
не содержащая поворотов.
Докажем, что Q ~ R в Пг. Доказательство этого утверждения
проведем индукцией по числу г(Х) вхождений букв с и ei (i = 1, 2, ..., т)
в слово X. Если г(Х) = 0, то все преобразования (4) суть
тавтологические и XcQdzucRdX. Так как в слово X не входит буква с, то X —
пусто, и, следовательно, QzizR.
172

Пусть теперь для гт <^г (X) утверждение верно. Докажем его в
случае, когда слово X содержит г(Х) вхождений с, е — букв. Если
выделенная в последовательности (4) буква с не затрагивается
преобразованиями этой последовательности, то при некотором Хг имеем XzsiX^cQd
и X1cQd=cRdX1 в #3. Так как г(Х1)<^г(Х), по индуктивному
предположению Q — R в Пг.
Если выделенная буква с затрагивается преобразованиями
последовательности (4), то пусть Mt_x-+Mt — первое преобразование (4),
затрагивающее эту букву. Тогда Mt_lzizX1eicGiPd и Wce.PdzziM^ где Х = Х'е4
в #3, GiP^Q- Из лемм 1 и 2 вытекает, что г (Х,) = г(Х) — 1. Из (4)
заключаем, что в П3: Mt = cRdX = cRdX'e.. Кроме того, в П3: Mtzn
zn X'ce.Pd = X'cPe.d = X'cPG^de.. Из леммы 3 следует, что тогда
X'cPGtf = cRdX' в П3.
Так как PG\ — слово в 012, то по индуктивному предположению
PG\ — R в Пг. По определению сопряженности I рода GtP — PG\ в Пг.
Следовательно, Q ~ R в IIV Лемма 4 доказана.
Из леммы 4 следует
Теорема 1. 5 полугруппе U3 неразрешима проблема сопряженности
11 рода.
Докажем, что в этой полугруппе разрешимы проблемы тождества и
сопряженности I рода.
Преобразования полугруппы 773, выполненные по схемам
eicGi^> cei9
e.d-+ G'.dev i = 1, 2, . . ., m, / = 1, 2, . .., я,
будем называть правыми преобразованиями. Соответственно левыми
преобразованиями Пъ будем называть преобразования, выполненные по схемам
cei-^> e4cGi9
Ъ.е.—> е.Ъ.,
j * * j>
Gridei-^ e4d, i = 1, 2, . .., w, / = 1, 2, . .., n.
Введем индукцией по числу к вхождений е-букв в слово X из 773 понятие
правой канонической формы X слова X.
При k = 0 положим Х = Х.
При к = 1 X ш ^4et.5 (1 ^ i ^ т) при некоторых Л и В. Сделаем
в слове X все возможные правые преобразования. Их, очевидно, конечное
число. В результате получим слово АВге{В'\ где е{В = BfetB" и слово
В]е4Ви не содержит вхождений левых частей соотношений 933. Положим
Х = АВ'е.В''.
При к^>\ выделим в X последнее вхождение е-буквы: XzozAetB
(l^j^m), В не содержит вхождений е-букв. Пусть e.BzszB^.B".
Тогда Х = ЛВ'е4В'.
Заметим, что X = X в Я3.
Аналогично введем понятие левой канонической формы слова X:
При к = 0 положим X = X.
При &=:1 Хх^е.В (1^г<^77г) при некоторых А и 5. Сделаем
в слове X все возможные левые преобразования. Их, очевидно, конечное
173

число. В результате получим слово А'е^'В, где Aei = A,eiAtr и слово
А]е{А!' не содержит вхождений правых частей соотношений ^3. Положим
Х = А'е<А''В.
При к^> 1 выделим в X первое вхождение е-буквы: XzsiAe.B (1 ^£<Г
^т), А не содержит вхождений е-букв. Пусть Aein:A,eiA,f. Тогда
X = A'eiA"B.
Лемма 5. Если X=Y в П3, то XzezY.
Доказательство проведем индукцией по числу к вхождений е-букв
в слово X.
При к = 0 утверждение очевидно.
Если к^>0, то выделим последнее вхождение е-буквы в слово X.
Тогда XznAe.B (i ^i^m), В не содержит е-букв. Из леммы 1
вытекает, что Y также содержит вхождение е-букв и что последнее
вхождение е-буквы в слово Y есть вхождение е.. Тогда Y^nce^D, где D не
содержит е-букв.
Пусть e.BzEL Вге;В" при некоторых В1 и В", efizuD'e^ при
некоторых D1 и D". Тогда Х=АВ'е,В\ Y = CDfe.D" к АВе.В" = CD'e.D".
Рассмотрим последовательность элементарных преобразований
А*В'ё4В"-+> ... -+>СВге4Н', в которой нет поворотов. Предположим, что
выделенная буква ei затрагивается преобразованиями этой
последовательности. Очевидно, первое преобразование, затрагивающее эту букву, левое.
Как при доказательстве леммы 3, убедимся, что тогда в рассматриваемой
последовательности преобразований есть поворот. Следовательно, буква с.
не затрагивается и отсюда AB'e. — CD'e,., B'fz°zD". Из леммы 3 следует,
что ABr = CDf. Слово АВГ содержит к — 1 вхождение е-букв, и по
индуктивному предположению АВ1zelCD1'. По определению правой
канонической формы ХшАВ'е^", YzuCD'e^. Следовательно, XuzY, что и
требовалось доказать.
Аналогично доказывается
Лемма 5'. Если X = Y в /73, то Izf.
Из леммы 5 непосредственно следует
Теорема 2. В полугруппе П3 разрешима проблема тождества
слов.
Докажем теперь разрешимость проблемы сопряженности I рода в этой
полугруппе.
Введем сначала несколько новых обозначений и понятий.
Пусть X—слово в 773. Результат применения с-преобразования вида
Ra-->ajR к слову X будем обозначать Сп(Х), результат применения
с-преобразования вида ajR-^Ra- к слову X будем обозначать СЛ(Х).
Положим
Л> (*)=*,
Р1(Х) = СП(Р0(Х)),
Р2(Х) = Са(Р1(Х))
и т. д.
Этот процесс образования слов Р. (X) назовем правым нормализующим
процессом для X.
174

Аналогично, левым нормализующим процессом назовем следующий
процесс образования слов Li(X):
£s(Z)3:C,(£i(X))
И Т. Д.
Будем говорить, что для слова X правый (левый) нормализующий
процесс стабилизируется, если при некотором целом п
рп(Х)^р;+1(Х)^р:+2(Х)^...,
где Р*. (X) — некоторая циклическая перестановка слова Pj (X)
(соответственно Ьп (X) nz L*+1 (X) z&z L*n+2 (X) m . . . „ где L*. (X) — некоторая
циклическая перестановка слова L-(X)). Положим Р (X) =Рп{Х) (соответственно
L (X) = Ьп (X)) и назовем Р (X) (соответственно L (X)) правым (левым)
нормализатором слова X. Следующая лемма очевидна.
Лемма 6. Если для слова X существует правый нормализатор Р (X),
то X ~ Р (X) в П3. Если для слова X существует левый
нормализатор L(X)9 то Х~Ь(Х) в П3.
Лемма 7. Пусть X — Y в П3. 1) Если для X существует правый
нормализатор, то и для Y существует правый нормализатор и Р (X)z°z
nzP*(Y), где Р*(Y) — некоторая циклическая перестановка слова Р (Y).
2) Если для X существует левый нормализатор, то и для Y существует
левый нормализатор и L(X)mL*(Y), где L*(Y) — некоторая циклическая
перестановка слова L(Y).
Доказательство. Очевидно, достаточно доказать лемму для одного
с-преобразования. Доказательство разобьем на три случая в зависимости
от вида этого с-преобразования:
а) Х-> Y — элементарное преобразование Я3,
б) X^LiRaj, YznajR,
в) XzirajR, YzoiRaj.
В случае а) из леммы 5 вытекает, что XznY, и, очевидно, Р (Х)тР (Y).
Если в случае б) ajZoie. при некотором i, то Р0(Х)ш Xz°z Re.. Тогда
Р0(У)и:^Л, P1(X)z£zeiRzizP0(<Y)t Если для X существует правый
нормализатор Р (X), то и для Y существует правый нормализатор Р (Y) и Р (X)zn
_ р*(у)? Где р* (У) — некоторая циклическая перестановка слова Р (Y).
Пусть aj не е-буква. Если Ra.zuRaj, то P1(Y)zizР0(Х) и
утверждение леммы выполнено. Если Raj^zBaj, то в R входят е-буквы. Пусть
RznA1eilA2 . .. AteitAf+1,
где Al9 A2, . . ., At+1 не содержат е-букв. Тогда
Ra~j zsz A1B1eilB2 ... Bteit, R =°: АхВ\ефг2 . . . BrteitB't+1
при некоторых Bv . . ., Bv B[, . . ., Brt+14 где B1znB[B"1 и
В\е1хВ2е{Въ .. . Bteit = eixB'2e^ ... В\енВ\^а^
Индукцией по к докажем, что для Рк(Х) найдется Pr(Y) такое, что
Pr(Y)znP*k (X), где Р*к(Х) — некоторая циклическая перестановка слова
175

Рк(Х). При k = 0 Р0(Х)^гЩ. Так как YzszajR, то P0(Y) =
= а;АгВ]е41В'2 ... В^ВЩ Тогда '
рб{.<в'%... eitB>t+l) (У) ос ehB'2... eitBft+1aj А^Щ ш B[ehB2.. .В&А^
где В\Е[^ВХ.
Предположим, что для всех к1<С.к утверждение верно. Докажем его
для Рк (X). Пусть Ркшт1(Х)т С^С^ ... eaft+1 при некоторых Cv . .., См,
где а19 .. ., at — циклическая перестановка iv . . ., it. По индуктивному
предположению при некотором I Pt(Y)zszP*k^1(X)>
Если Ct+1 непусто, то Рк(Х) есть циклическая перестановка слова
Pjc-i(X) и, следовательно, Pl(Y)zozP*k(X), где Р*к(Х) — циклическая
перестановка слова Рк(Х).
Если См — пусто, то Рк (X) зс е*£геЛ1С2 ...Ct з: D1e*p2e*f2 ...Ct,
где eatC1zozD1eatD2. Имеем
i*U (X) з: с;ч... с^р^Сг... ^„с;,
где 1<*<*, С;.С;:^:С.. Если i=^l, то
Р, (У) ш Q^ ... С,еаргеа1С2 ... ъмС; з: СХ ... Сргеар2еЛ1С2 ... е*^£\.
Отсюда P,(F)=5:Pf(X), где Р*Л(Х)^: С'^ ... С р&р&хСг ... еа^С{ есть
циклическая перестановка слова Рк (X).
Если * = 1, т. е. PJ.j^x^C,... C,^C;, то
p,(Y)=PUW) = cxc2...c,i);4M,
где
Отсюда
^+а(*а^) (F)3i e*tMC&xC% ... CtU\znD\e,p2e^C2 ... С,/);.
Случай в) сводится к случаю б), так как слово Y может быть
получено из слова X д (Д)-кратным применением с-преобразования вида б).
Утверждение 1) леммы непосредственно следует из доказанного.
Утверждение 2), симметричное утверждению 1), доказывается
аналогично.
Рассмотрим последовательность с-преобразований полугруппы П3:
IxI0^I1^...->I.^...^Z^F. (5)
Для букв с и d, входящих в слова Xi последовательности (5),
естественным образом определим понятие тождества по индивидуальности. Именно,
если X. —► Х.+1 есть переход по схеме Raj —► a^R или обратный, то все
буквы сохраняют индивидуальность в этом преобразовании. Если
X. -> Xi+1 есть элементарное преобразование Пг, то сохраняют
индивидуальность все буквы, не затрагиваемые этим преобразованием, и
в случае, когда X. —► Xi+1 есть преобразование по схеме
Х'(е.сО(Х"(-»Х'.се.Х''.,
176

единственная буква с, которая входит в e.cG, отождествляется по
индивидуальности с буквой с слова се. (аналогично для обратных переходов
и буквы d).
Будем говорить, что в последовательности с-преобразований (5) есть
поворот, если можно указать такие i, /, что 0 ^ i </—1 < & и
XtZSzUJtV» Xw^iU1SVv X^zszUtSV» XjZizUJlV,-
где либо R = S, либо S=R есть одно из определяющих соотношений 933
и все буквы, входящие в отрезок S слова Х.+1, в той части
последовательности (5), которая начинается со слова Xi+1 и кончается словом X ._ъ
затрагиваются только с-преобразованиями вида Ra- ^± л -Д, либо вовсе
не затрагиваются.
Легко видеть, что если X^Y, то можно указать последовательность
с-преобразований без поворотов, переходящую X в Y.
Лемма 8. Пусть XznAcB u
X zsz Ас В -* АгсВг -* ... -* АксВк -* Ак+1сВк+1 -*...-* А рсВр zsz Y (6)
последовательность с-преобразований П3, не содержащая поворотов, в
которой все выделенные буквы с тождественны по индивидуальности. Тогда
либо все элементарные преобразования, затрагивающие выделенную букву с,
правые, либо все они левые.
Доказательство проведем индукцией по числу г элементарных
преобразований, затрагивающих букву с, тождественную по индивидуальности
той, которая выделена в слове X. При г=1 утверждение очевидно.
Пусть г > 1. Выделим последнее элементарное преобразование,
затрагивающее с:
AkcBk^ Ak+1cBk+1. (7)
По индуктивному предположению все элементарные преобразования,
затрагивающие букву с, в последовательности
X zsz Ас В -> А1сВ1 -*...-* AkcBk (8)
либо правые, либо левые. Ограничимся рассмотрением случая, когда все
преобразовения правые, так как другой случай аналогичен. Если
преобразование (7) левое, то Bkz°ie.U и
AgBjc ^ Ак&р~* Ake.cG.U зг Ак+1сВк+1.
Так как г^>1, в последовательности (8) можно выделить элементарное
преобразование, затрагивающее с. Пусть AlcBl-> Al+1cBl+1 есть последнее
из них. Тогда при некотором у Atziz Vej, BlznGjW, Al+1znV, Bl+1z°ze-W
и в последовательности Al+1cBl+1-+ .. . -> AkcBkzszAlcceiU буква с не
затрагивается элементарными преобразованиями. Следовательно, eWV =
= e.UAk в П3. В силу леммы 3 i = j и в любой последовательности
элементарных преобразований без поворотов, переводящей e-WV в e.UAk,
первая буква преобразуемого слова не участвует. Тогда буквы с и е-
в слове Vce.W не затрагиваются элементарными преобразованиями той
части последовательности (6), которая начинается со слова А[+1сВм и
кончается словом АксВк. Следовательно, в (6) есть поворот, что
противоречит условию леммы. Лемма 8 доказана.
177

Аналогично доказывается
Лемма 8;. Пусть XznAdB и
XiozAdB -+ ... -+ AkdBk -> ... -^ ApdBpzsz Y
последовательность е-преобразований /73, не содержащая поворотов. Тогда
либо все элементарные преобразования, затрагивающие тождественные
по индивидуальности буквы d правые, либо все левые.
Лемма 9. Если Х-^ слово в П3, то X обладает хотя бы одним из
следующих трех свойств:
a) существует конечное число слов, сопряженных с X в 1 роде в П3;
b) для слова X стабилизируется правый нормализующий процесс;
c) для слова X стабилизируется левый нормализующий процесс.
Если Рг{С, dy (Y) совпадает с Pr{C, dy (X) и Рг{^ (Y) совпадает с Рг{<^} (X)
с точностью до циклической перестановки, то Y обладает тем же
свойством а), Ь), с), что и X.
Доказательство. Положим к (X) = д (Рг{С, ау (X)).
Если &(Х) = 0, то из I-Z в Я3 следует &(X) = d(Z). В этом случае
существует лишь конечное число слов, сопряженных с X в I роде в /73.
Пусть &(Х)=1. Заметим, что все слова Gi и G'. не пусты. Если в X
входит буква с (или d), то, очевидно, правый (соответственно левый)
нормализующий процесс для X стабилизируется на п-м шаге, где 7г^(<9(Х))2.
Пусть к (X) ^> 1. Если некоторая циклическая перестановка X* слова X
имеет вид X*zncBcD (или X*z°zdBdD), где в В не входят с, <2-буквы>
то для слова X*, а в силу леммы 7 и для слова X, правый
нормализующий процесс стабилизируется на п-м шаге, где п^д(В) • д(Х).
Во всех рассмотренных случаях последнее утверждение леммы 9
очевидно, так как по условию Рг{<.,<£} (Y) есть циклическая перестановка
Рг{„*у(Х).
Нам осталось рассмотреть случай, когда к (X) > 1 и в любой
циклической перестановке слова X буквы с и d чередуются. Пусть Pr{e.y (X)z°z
Hz eixei2 . .. ен. Положим г (X) = 2 ^ (6^.)— S ^ (£•%•)• Здесь воз-
можны три случая:
I. г(Х)>0, П. r(X)<0, III. r(X)=rO.
Докажем, что в случае I для слова X стабилизируется правый
нормализующий процесс. В силу леммы 7 можно считать, что XzucB и
Рг{с, ay (X) in {cd)s. Пусть Р0 (X) hz cDE, где Е — максимальный конец
слова Р0(Х), составленный из одних е-букв. Если в D входит
некоторая е-буква, то правый нормализующий процесс стабилизируется не
позднее, чем через д(Е) шагов. Если же Рг{е .у (E)zozPr{e .у (cDE) и
нормализующий процесс не стабилизировался до £+1-го шага, то будем иметь
д (Pt (X)) = д (Р0 (X)) — s • г (X). Это означает, что во всяком случае
нормализующий процесс стабилизируется не позднее, чем через t • д (Р0 (X))
шагов.
Если слово Y удовлетворяет условию последнего утверждения леммы,
то мы имеем г(У)>0, и для слова Y правый нормализующий процесс
стабилизируется не позднее, чем через t • d(P0(Y)) шагов.
178

В случае II аналогично доказывается, что для слова X и для слова Y
стабилизируется левый нормализующий процесс.
Перейдем к случаю III. Мы докажем, что в этом случае имеется
лишь конечное число слов, сопряженных X в I роде в П3. Так как по
условию леммы Рг{^> (Г) есть циклический сдвиг Рг^} (X), то r(Y) =
— г(Х) и, следовательно, то же самое будет верно для Y.
Нам достаточно доказать, что в рассматриваемом случае во всякой
последовательности с-преобразований полугруппы П3 без поворотов
X^:X1^X2^.,.-+Xi^X.+1-+...^Xx, (9)
в которой никакое слово Х{ не встречается дважды, содержится не более
Ast2f(X)-\-t элементарных преобразований, затрагивающих с, d-буквы,
где / (X) — число всевозможных слов длины, не превосходящей д (X) -j-
-(- st max д (Gj).
о
В силу леммы 8 в (9) над каждой с, d-буквой совершаются либо
только левые, либо только правые элементарные преобразования.
Допустим, что в слове X найдутся такие две буквы с и d9 что над
одной из них совершаются левые, а над другой правые преобразования.
Тогда каждая е-буква проходит через каждую с, d-букву не более одного
раза. Следовательно, в таком случае число элементарных преобразований
последовательности (9), затрагивающих с, d-буквы, ограничено числом 2st.
Остается случай, когда все элементарные преобразования (9),
затрагивающие с, d-буквы, правые или все они левые. Пусть все они правые.
Другой случай аналогичен, и роль буквы с будет играть буква d.
Очевидно, можно считать, что X начинается с буквы с. Пусть Xzn
zucD. В каждом слове Xt последовательности (9) выделим букву с,
тождественную по индивидуальности начальной букве слова X. Если
Xizn P.cQ., то слово с(2{Р{ обозначим через tX't. Рассмотрим
последовательность слов _ _ _ _
XznX[, X'2J Xr3, . .., АЛ, X'i+lJ . .., X'v
где X'. есть правая каноническая форма слова X'..
Заметим, что для любого £<^Х
д (X,) = д (X't) < д (X.) + st max д (Gj). (10)
i
Если переход X. z°z PicQi -> Xi+1 z°z Pi+1cQi+1 не есть элементарное
преобразование, затрагивающее букву с, то Х\ = X'i+1 в Поу и по лемме 5
X'.zelX'^. Если же оно затрагивает букву с, то имеем PizozPi+1eij>
QrjuGijF и QMzne4F. Тогда X\zsicG4FPMe4 и X'Mzs2ce4jFPM. При
этом если в (9) после слова Xi+1 есть еще t элементарных
преобразований, затрагивающих букву е, то Xri+1nzcDE, где Е состоит из £-букв^
a D не содержит их, и d(X'M) = d(X\)-8(d(G4)-d{G'4)).
Если же в (9) есть не менее 2t элементарных преобразований,
затрагивающих выделенную букву с, и Х4-+> Xi+1 есть £-е из них, то имеем
д (*;*) = д (XJ -5-2 (д (GtJ) - д (Gij)) = д (X),
J=\, ...it
17fr

откуда в силу (10) следует
д (Х.+1) < д (X) + st max д (G.).
Если в (9) есть не менее 2tf (X) элементарных преобразований,
затрагивающих букву с, то в ней число слов, имеющих длину,
превосходящую д (X) -f- st max д (Gj) больше / (X). Тогда в (9) некоторое слово
повторяется дважды, что противоречит условию. Следовательно, в (9)
число элементарных преобразований, затрагивающих букву с, меньше
2tf (X). Тогда число элементарных преобразований (9), затрагивающих
все с, d-буквы, меньше 4s£2/(X) + ^. Отсюда для любого i в (9) имеем
д (Xt) < д (X) + [Ы*1 (X) + *] шах {д (GJ, д (G;.)}
J
Лемма 9 доказана.
Из доказательства леммы 9 видно, что если для X выполнено
условие а), то мы можем эффективно оценить сверху число слов,
сопряженных в #3 с X в I роде.
Теорема 3. В полугруппе 773 разрешима проблема сопряженности
I рода,
В самом деле, пусть X и Y — слова в П3. В силу лемм 1 и 2, если
Рг^. у (Y) не есть циклическая перестановка Pv{e.y(X) или Pv{Cidy{Y) не
есть циклическая перестановка Рг{С, dy (X), то X и F не сопряжены
в I роде в /73.
В противном случае Y обладает тем же свойством а), Ь) или с) из
леммы 9, что и X. Если для слова X существует конечное число слов,
сопряженных" с ним в I роде в Я3, то в силу замечания к лемме 9
легко проверить X — Y в 773 или нет. Если для слова X существует
правый нормализатор Р (X) (левый нормализатор //(X)), то для слова Y
существует правый нормализатор Р (Y) (соответственно левый
нормализатор L(Y)). В силу лемм 6 и 7 в этом случае X—Y в П3 тогда и
только тогда, когда Р(Х) совпадает с P(F) с точностью до циклической
перестановки (L(X) совпадает с L(Y) с точностью до циклической
перестановки).
§ 2. Проблемы сопряженности и проблема тождества
2.1. В качестве примера полугруппы с неразрешимыми проблемами
сопряженности I рода и II рода, но разрешимой проблемой тождества,
можно рассмотреть группу П. С. Новикова с неразрешимой проблемой
сопряженности (см. [2]), проблема тождества которой разрешима (см. [4]).
В полугруппе П2 из п. 1.1 разрешима проблема сопряженности II рода,
но неразрешима проблема тождества.
2.2. Приведем теперь пример полугруппы с неразрешимой проблемой
тождества, для которой разрешима проблема сопряженности I родах.
Рассмотрим полугруппу 770 = <(<210; 930]> с неразрешимой проблемой
тождества. Пусть
1 Этот пример был указан автору Г. А. Гуревичем.
180

— алфавит этой полугруппы,
<S0:{AJ = BJ}9 / = 1,...,л
— система определяющих соотношений. Пусть буквы с, d, /, к не
принадлежат алфавиту QI0. Рассмотрим полугруппу 774 = <(<214; 934)> с
алфавитом <2i4 = <2loU{c, <2, /, к) и системой определяющих соотношений:
dAj = Bjd, /=l,...,n, (а)
<234: da. = aid9 ф)
са. = а^с, Aaf. = af.&, г = 1, . . ., т,
d = ск, кс = /,
fx = /, я/ = /,
где # принимает значения ai9 с, к, d, /.
Лемма 10. Пусть Qv Q2, Pv P2 — слова в алфавите 510. Тогда
Q1dP1 — Q2dP2 в /74 тогда и только тогда, когда Q1P1 = (?2^2 в 770.
Доказательство. Пусть Q1P1 = Q2P2 B По- Очевидно, достаточно
рассмотреть случай, когда Q^Pi-^Q^^— элементарное преобразование П0.
Тогда Q1P1zziRAS, Q2P2 = RBS, где А = 5 одно из соотношений 930*
Тогда в i74:
0^ = d&Pi з: (ШЛЯ = АЫЯ = Д SdS = iJSSd з: <?2 P2d = Q2dP2.
Обратно, пусть Q±dPx = Q2dP2 в 774. Тогда можно указать
последовательность элементарных преобразований
Q1dP1^...^Q2dP2l (И)
не содержащую поворотов. Легко видеть, что в такой последовательности
соотношение d = ck применяться не будет, так как иначе в ней был бы
поворот. Значит, в (И) все преобразования соответствуют соотношениям
типа ((3) или (а). Далее очевидно, что достаточно рассмотреть случай,
когда Q1dP1-^Q2dP2 — элементарное преобразование /74. Тогда либо
Q1P1ZoZQ2P2l либо Q1dP1znRdAS, Q2dP2^zRBdS, где dA = Bd —
определяющее соотношение типа (а), откуда QlPlznRAS = RBSznQ2P2, так
как А=В — определяющее соотношение системы 930. Лемма 10 доказана.
Из леммы 10 непосредственно следует, что в 774 неразрешима
проблема тождества слов.
Следующие утверждения очевидны.
Лемма 11. Пусть А — слово в алфавите ЭД0, В — слово в алфавите
Ql4. Тогда А — В в Я4 тогда и только тогда, когда В есть циклическая
перестановка А.
Лемма 12. Пусть А — слово в алфавите ^U {с} (или 21ои{&}Л
В — слово в алфавите ЭД4. Тогда А ~ В в Я4 тогда и только тогда>
когда Рг{С} (В) есть циклическая перестановка Рг{С) (А) (соответственно
Рг{ку(В) есть циклическая перестановка Рт^у(А)).
Пусть L — множество слов в полугруппе Я4, в которые входит либо
буква d, либо буква /, либо буквы с и к одновременно.
Лемма 13. Если A£L, mo A~f в /74.
181

Из лемм 11—13 следует разрешимость проблемы сопряженности
I рода в 774. Очевидно, в П4 разрешима и проблема сопряженности
II рода.
ЛИТЕРАТУРА
1. С. И. Адян. Определяющие соотношения для групп и полугрупп. Труды Матем.
ин-та АН СССР, 85, 1966.
2. 77. С. Новиков. Неразрешимость проблемы сопряженности в теории групп.
Изв. АН СССР, 18, 6, 1954, стр. 485—524.
3. В. А. Осипова. К проблеме сопряженности для полугрупп с ограниченной мерой
налегания определяющих слов. Конф. пед. вузов. Иваново, 1970.
4. А. А. Фридман. О взаимоотношении между проблемами тождества и сопряженности
в конечно-определенных группах. Труды Моск. матем. об-ва, 9, 1960, стр. 329—356.
5. Г, С. Цейтин. Ассоциативное исчисление с неразрешимой проблемой
эквивалентности. Труды Матем. ин-та АН СССР, 52, 1958, стр. 172—189.

Я. С. СМЕТАНИЧ
О ВОССТАНОВЛЕНИИ СЛОВ
Введение
1. Задача восстановления слова возникает при анализе биохимических
методов определения первичной структуры гетерополимеров *.
Макромолекула гетерополимера с точки зрения первичной структуры есть слово
в некотором алфавите. Один из способов определения первичной
структуры заключается в получении перекрывающихся фрагментов молекулы,
по которым восстанавливается строение всей молекулы. Возникающая
здесь математическая задача в нестрогой постановке такова: пусть
некоторым известным способом слову X сопоставлена совокупность его под-
слов; можно ли, зная эту совокупность, однозначно и достаточно
эффективным способом восстановить слово X. Точная постановка
математической задачи сформулирована в [3]. Одной из первых работ, в которой
рассматриваются формальные аспекты, возникающие при «расщеплении»
молекул РНК, является, по-видимому, статья [1].
В § 1 рассматривается простейший способ получения
перекрывающихся подслов слова X: множество всех двубуквенных подслов слова X
с указанием, сколько раз входит в X каждое такое подслово. Это
множество называется составом второго ранга слова X. Находится
необходимое и достаточное условие для того, чтобы два слова имели один и тот же
состав второго ранга, и строится алгоритм, который восстанавливает
слово X по известному составу второго ранга, число элементарных
операций которого не превосходит п4, где п — длина слова X, а за
элементарную операцию принято сравнение двух однобуквенных слов.
В § 2 вводится класс способов получения перекрывающихся подслов
слова X и для этого класса устанавливается сведение алгоритмической
задачи восстановления слова к задаче восстановления слова по его составу
второго ранга. Оценка сверху числа шагов алгоритма восстановления
остается по-прежнему тг4. В § 3 рассматриваются конкретные примеры
функций этого класса.
2. Мы будем рассматривать слова в конечном алфавите 2 и
обозначать их большими латинскими буквами. Однобуквенные слова в 2
обозначаются малыми латинскими буквами. д(Х), А — означают соответственно
Эта задача возникла у Р. В. Полозова, Б. И. Сухорукова и автора при обсуждении
вопросов, связанных с первичной структурой полимеров.
183

длину слова X и пустое слово; равенство X=Y слов X и Y понимается
в смысле их графического тождества. Ап есть сокращенная запись слова
Л ...Л
п — раз
Пусть буква а входит в слово X, будем писать в этом случае а £ X;
будем писать af I, если нет ни одного вхождения а в слово X. Знак
£ будет использоваться также в обычном смысле. 0 — обозначает
пустое множество. Различные буквы, входящие в слово X, образуют
алфавит, который мы обозначим Л[Х]. В представлениях слов типа:
Х=ХгаХ2ЬХ3, Хг, Х2, Х3 — произвольные, возможно, пустые слова.
Я благодарен Ф. А. Кабакову за ряд замечаний, сделанных при
обсуждении рукописи этой статьи.
§ 1. Состав второго ранга
1. Обозначим множество всех двубуквенных подслов слова X через
С[Х]. Для каждого элемента аЬ £ С[Х] образуем упорядоченную пару
\ аЪ, к у, где к — число всех вхождений слова аЬ в слово X; множество
всех таких пар обозначим С'2[Х]. Если Х=аХ'Ь, то пары <^ аД, iy,
<(А6, 1]> назовем граничными. Объединим в одно множество С'2[Х]
и граничные пары слова X; обозначим полученное объединение через
С2[Х] и назовем его составом второго ранга слова X.
Рассмотрим множество С[Х] для некоторого слова X.
Определение 1. Пусть а, b, t £ X и t =^= a, b =^= а. Будем
говорить, что буква b достижима из буквы t без буквы а в множестве
С2[Х] (в составе С2[Х]) и писать t -^ Ы+)/а, если выполняется, по
крайней мере, одно из двух условий
а) t=b,
б) существует последовательность букв
сг, с» ..., ср, (1)
такая, что:
бг) c1=ty cp = b и с< =^ a (1 < i О),
б2) для каждого к(1^к^р — 1), по крайней мере, одно из двух
слов скск+1, ck+1ck входит в множество С[Х].
Если t=^=b и последовательность (1) с указанными свойствами не
существует, то будем писать t-^fr^/a.
Лемма 1. Пусть слово X представлено в форме X = PaQb, где
a(*Qb и Ру^=А; тогда для того, чтобы выполнялось равенство А [Р] П
П-4[(?&]~0, необходимо и достаточно, чтобы для каждой буквы t,
t£P выполнялось условие t-^b{']ja в множестве С[Х].
Доказательство. Пусть А [Р] f| A [Qb] = 0, покажем, что £->
-*Ь(~}/а. Допустим, что существует t, t£P и t-+bi+)/a. Если все слова
ckck+i (ck+ick)> соответствующие последовательности (1), входят в Р, то,
очевидно и b £ Р, что противоречит условию А [Р] fl A [Qb] = 0. Пусть с{с1+1
первое слово, которое не входит в. Р, тогда, очевидно, оно входит в Qb.
Так как с1_1с1 (или c^.i) входит в Р, то с^Р и c^Qb, и мы снова
184

получаем противоречие. Достаточность следует непосредственно из
определения 1.
Определение 2. Если слово X можно представить в форме
X = ХгаРЬХ^ЬХ3, (2)
то слово
Y1 = X1aQbX2aPbX3 (3)
называется результатом регулярного преобразования слова X. Если слово X
можно представить в форме
X = ZxcZ2cZ3cZv (4)
то слово
Y2 = ZlCZ3cZ2cZ4 (5)
называется результатом регулярного преобразования слова X.
При этом:
а) иод регулярным преобразованием мы будем понимать пару <^Х, У)>г
где Y есть результат регулярного преобразования X;
б) регулярное преобразование всегда применяется к конкретному
представлению слова X; мы будем пользоваться следующими
сокращениями: Р (а, Ъ), если применяется регулярное преобразование в форме (3),
Р{с), если применяется регулярное преобразование в форме (5).
Легко видеть, что регулярное преобразование не меняет состава
второго ранга слова X.
Лемма 2. Пусть X = atPaqQ, причем t=^q и A [tP\ f| A [qQ] =£ 0.
Тогда существует регулярное преобразование слова X в слово вида Y =
= aqR.
Доказательство, Пусть с £ tP и с £ qQ, тогда tP=PxcP2
и qQ=Q1cQ2. Применяя к слову X=aP1cP2aQ1cQ2 регулярное
преобразование _Р (а, с), получаем слово Y=aQxcP2aPxcQ2. Если Qx =£ Л, то Y=aqR,
если же QX=A, то q = c, и мы снова получаем нужное представление.
Лемма доказана.
Теорема I. Для того чтобы слова X и Y имели один и тот же
состав второго ранга, необходимо и достаточно, чтобы существовала
последовательность слов
Zlt Z2, ..., Zn, (6)
такая, что ZX = X, Zn=Y и Zk+1 есть результат регулярного
преобразования слова Zk (1 ^ k ^ п—1).
Доказательство. Если существует последовательность (6)г
то равенство C2[X] = C2[Y] следует из того, что регулярное
преобразование не меняет состав второго ранга.
Пусть теперь C2[X]=C2[Y]. Покажем сначала, что если у двух слов
R = atR'b, S=aqS'b, t ф q и C2[S] = C2[R], то существует регулярное
преобразование слова R в некоторое слово Z=aqZ'b.
Рассмотрим случай, когда а ^= Ь. Рассмотрим всевозможные
вхождения всех двубуквенных слов at с произвольной буквой t, отличной от
буквы а, в слово R. Пусть
R = а^Р^2Р2 ... atnPnb, tx — t (7)
185

— представление Л, в котором все эти вхождения явно выписаны, где
t. =^= а и а ^ tnPnb. Так как C2[R] = C2[S], то для слова S существует
аналогичное представление:
S = aqxQxaq2Q2 . .. aqnQnb, q± = g, (8)
ж между вхождениями ati из (7) и вхождениями ад^ из (8) существует
взаимно-однозначное соответствие, такое, что если atk соответствует aqr,
то tk=qr. Заметим также, что п ^ 2, так как £х =^= д1#
Рассмотрим подслучай, когда qx в (8) совпадает с tp в (7), и р <^п. Тогда
R = at2PaqiQatnPnb. (9)
Применяя к (9)JP(a), получаем слово Z^aq-^Qa^PatJPJb] таким
образом, мы нашли для этого подслучая необходимое регулярное
преобразование.
Рассмотрим подслучай, когда qx = tn. Тогда найдется буква tn где
2<Ж совпадающая с qn. Из (8) получаем qn~^b(+)/a, так как a£Qnb. Это
означает, что tl -> b(+)/a. Представим R в виде
B = at1P'atnPJ,. (10)
Так как tl £ txP] и 11 -> b(+)ja, то, применяя лемму 1, получаем A [At^^f]
Г) A [tnPnb] =£ 0, следовательно, А [^Рг] П Л [tnPnb\ =^= 0. Кроме того,
в (10) tl=y^tn, так как t1=^=q1. Применяя к (10) лемму 2, получаем
регулярное преобразование, переводящее (10) в слово вида Z' = alnZ" — aqV.
Рассмотрим теперь случай, когда а—Ъ. Согласно предыдущему, в (7)
найдется tn совпадающее с qx. Запишем R в виде
R = at1R>aq1Wa.fi (И)
Применяя к слову (И) JP(a), получаем слово aqxR"atxR'а. Все случаи
доказательства нашего вспомогательного утверждения рассмотрены.
Для доказательства* необходимости надо построить
последовательность (6). Рассмотрим два слова R = PatR'b и S = PaqS'b, у которых
C2[R] = C2[S]. Если д (atR'b) > 3 и q =^= t, то на основании предыдущего
существует регулярное преобразование R в слово вида PaqZ'b. Если же
d(atR'b)=3, то, очевидно, t=q. Так как из C2[X] = C2[Y] следует Х—аХ'Ъ
и Y—aY'b, то, применяя последовательно к словам типа R = PatR'b
регулярные преобразования, превращающие t в q, получим (6). Теорема
доказана.
Определение 3. Будем говорить, что слово X восстановимо
по своему составу второго ранга, если для каждого слова Y, отличного
от X, имеет место С2[Х] =^= C2[Y].
Введенное свойство слова обозначим J32(Z), а его отрицание —
1 Вг(Х).
Из теоремы 1 получаем:
Следствие 1. Для того чтобы выполнялось свойство В2(Х),
необходимо и достаточно, чтобы никакое регулярное преобразование
не изменяло слово X.
Сформулируем теперь алгоритмическую задачу восстановления слова
по его составу второго ранга: по известному множеству С2[Х], при не-
186

известном слове X, найти слово Y, такое, что C2[Y] = C2[X ], и определить,
истинно или нет В2 (Y). Легко видеть, что эта задача решается, например,
перебором всех слов, длина которых равна д (X)—2, а д(Х) легко
определяется. Представляет интерес построение достаточно эффективного
алгоритма, решающего эту задачу.
2. Переходим к построению такого алгоритма. Сначала построим
алгоритм, который по множеству С2[Х] для некоторого слова Х = аХ'Ъ
и по букве t £ X, t =?£= а определяет: имеет место t -> bi+)/a или t -> b{~4a.
Элемент cd £ C[X] назовем g-парой, если одна из букв совпадает с q
и с =j£= a, d=j£=a. Фиксируем q, пусть {afi.} —подмножество С[Х],
состоящее из всех g-пар. Буквы, образующие все слова а.Ъ. этого
подмножества, составляют некоторый алфавит, который мы обозначим Oq
и назовем окрестностью буквы q в С[Х]. Пусть 2 — алфавит слова Х =
— аХ'Ъ и 2' С 2. Для каждой буквы d £ 2', d^= а построим ее
окрестность Od; объединим все множества Ос1 по всем d £ 2', d =^= #, в результате
получим некоторый алфавит, который обозначим 0%'.
Фиксируем букву t, t£ aX'b, t=^a. Буква t порождает
последовательность алфавитов
S0 С Sx с... CS.CZ..., (12)
которая строится следующим образом: Е0={£}, 2&+i = 0sfc.
Последовательность (12) оборвем на номере р, для которого выполняется одно из
условий: 2 = 1>р+1 или 6^2 Положим д(Х) — п; легко видеть, что
р ^п. Непосредственно из определения 1 получаем t-+bi+)/a, если &£2
и t-*>&->/а, если Ъ^Ър в (12).
Оценим сверху количество операций построенного алгоритма. Здесь
и далее за элементарную операцию принимается сравнение двух одно-
буквенных слов.
Заметим, что при построении алфавита ^к+1 достаточно строить вместо
Оък окрестность 0Аък, где АЕк = Ек— S^. Пусть число букв в ALk
равно гк. При построении 2fr+1 используются операции двух типов: (а)
очередная буква из A2A сравнивается с буквами первого элемента пары
(fifii, k.y £ С2[Х] и с буквой а, число сравнений при этом не
превосходит Зтг, чтобы построить все множество A2^, таких операций
используется не более чем гк -Зтг; (б) прежде чем включать или не включать
вновь выбранную букву в алфавит 2fe+1, надо убедиться, что эта буква
не входит в уже построенную часть этого алфавита (чтобы не было
повторяющихся букв!). Число элементарных операций, необходимых для этого
во всем процессе построения всех алфавитов 2^ (1 ^ i^p), не более
чем 1 -п-\-2 -тг+3 -тг+ • • -+s-n, где s — количество букв в 2 . Таким
образом, для всех операций построенного алгоритма получаем оценку
сверху:
(ri.3n+...+rp.3n) + (l+2+...+s).n<
<Зп^п + ПиП^ + 1)=Щ^. (13)
Для каждой буквы алфавита слова X образуем пару <(а, &)>, где
а £ X и к — число всех вхождений а в слово X. Множество всех таких
487

пар обозначим Сг[Х]. Всюду ниже будет предполагаться, что Сг[Х]С1
С С2[Х].
Докажем несколько вспомогательных утверждений. В леммах А. (1 ^
<^£^8), доказываемых ниже, предполагается данным состав второго ранга
некоторого слова Y — aY'b. В каждой из лемм устанавливается
существование некоторого слова X, со второй буквой £, для которого выполняется
условие C2[X]=C2[Y]. Кроме того, в каждой из этих лемм доказывается
одно из двух утверждений:
(а) не существует буквы q, q=^=t и слова Z, таких, что
Z^aqZ'b, C2[Z] = C2[Y]; (14)
б) существует буква q, q=^t и слово Z, такие, что
Z = aqZ'b, C2[Z] = C2[Y]. (15)
Если выполнено (б), то, очевидно, ~~\В2(Х) (см. Определение 3). Если же
истинно утверждение (а), которое мы будем обозначать ПВ2(Х), то
вторая буква слова X определяется однозначно, а об истинности В2(Х) мы
ничего не можем сказать.
Мы принимаем также сокращение ЗХ, вместо «существует слово X».
В лемме Аг определяется сразу п первых букв слова X.
Лемма Av Пусть (а, rty, (аа, ky^C2[Y] и k — п—1. Тогда
^Х(Х=апХ!Ь) и ~]В2(Х).
Доказательство, «к» вхождений аа в слово X можно получить
только в том случае, если буквы а в слове X не разделены другими
буквами.
Лемма А2. Пусть (а, rty, (аа, ку £ C2[Y] и к<^п—1. Тогда
ЪХ(Х = ааХ1Ь) и ~]В2(Х).
Доказательство. Если существует слово Z = atQaaP, такое, что
t=£=a и C2[Z] = C2[Y], то, применяя к Z регулярное преобразование Р(а),
получаем Z! —aatQaP. Пусть существует слово Z = aaR, такое, что
C2[Z] = C2[Y]. Так как Л<л— 1, то гс>3 и Z^amtRfaS, где t^a,
т^2. Применяя JP(a) к слову Z, получаем слово вида Z'—atQ. Лемма
доказана.
Лемма А3. Пусть (а, rty, (at, ky^C2[aYfb]; пусть далее (аа, s>(]
£C2\aY'b], a = b и &<> —1. Тогда RX(X = atX'b) и ~\В2(Х).
Доказательство. Так как к<^п — 1, то существует (aq, Ту £ С2 [ Y]>
q=jkt. Следовательно, существует слово одного из следующих видов:
Хг = aS-^atR-flqQ-fi,
Х2 = aS2aqR2atQ2a,
Х3 = atS3aqS±a,
Х4 = aqS5atSQa,
где С2[Х<] = С2[¥], (1<*<4)-
Рассмотрим случай, когда ЗХГ Применяя JP(a) и JP(a, а) к слову Х1У
получаем соответственно слова atR^aS^aqQ^a и aqQ^atR^aSfo. Остальные
случаи рассматриваются аналогичным образом.
В остальных леммах (a, riy^_C2\Y\, aa£C[Y] и a=^=b в слове Y =
= aY!b.
188

Лемма Av Пусть (at, &>£C2[F]u t-^b^ja. Тогда RX(X = atQb),
C2[X] = C,[Y].
Доказательство. Случай k=l очевиден. Пусть к^>1, тогда
каждое слово X, такое, что С2[Х] = C2[Y], можно представить в виде
X^aPaqQb, (16)
где a(*qQb. По условию, £->&f_)/a> следовательно, q=^=t. Поэтому (16)
можно представить в одной из форм:
X = atPfaqQb, (17)
X = aP"atQlaqQb. (18)
Применяя к (18) Р(а), получаем Z = atR. Лемма доказана.
Лемма Ав. Пусть (at, ky^C2[Y], t-^b^/a, к = п— 1. Тогда
RX{X = atQb), C2[X] = C2[Y] и ПВ2(Х).
Доказательство. Пусть X произвольное слово, для которого
C2[X] = C2[Y]. Так как t-^b^/a, то X = aQasRb, где s=£t и a^sRb.
Очевидно, что Q = tQf.
Лемма А6. Пусть (at, ky£C2[Y] и t-^b^/a. Тогда ^X{X = atQb),
C2[X] = C2[Y], ~}В2(Х).
Доказательство. На основании леммы А± получаем ЯХ(X = atQb).
Так как к<^п — 1 и £-> &с~7а> то Х = atQ'asRb, где s=^=t и а£ sRb.
Учитывая, что к<^п — 1, получаем существование вхождения aq, q=^=t
в слово Q'. Таким образом,
X^atQ^qQ^sRb. (19)
Применяя к (19) JP(a), получаем X1 =aqQ2atQ1asRb; очевидно, ~\В2(Х).
Лемма А7. Пусть (at, 1)>, (aq, 1У£С2[У]; и t=^-q, t-+bm/a, q ->
-+b(+)la. Тогда ^X{X = atQb), C2[X]=C2[Y] и ~]B2(X).
Доказательство. Пусть rdX(X = atParQ, где a£rQ) и С2[Х] =
= C2[Y]. Учитывая, что t-+bc+)/a, на основании леммы 1 получаем
A [tP] П A lrQ] ¥= 0 • Так как t=^r, то на основании леммы 2 некоторым
регулярным преобразованием получаем из X слово X1 = arR. Пусть
T&X(X = asQatPb), где а^РЬ и C2[X] = C2[Y]. Рассмотрим два случая.
Если s = q, то по условию s->&(+)/#. Тогда согласно лемме 1 ^l[s(?]n
r\A[tPb]y£= 0. Применяя лемму 2, получаем Xf = atR. Если же s=^=q,
то д£(?> так как a^tPb. Так как q-+bi+)/a, то согласно лемме 1 получаем
A[sQ]nM*Pb]¥=0- (20)
На основании (20) применяем лемму 2 к слову X, получаем X" = atRv
Если
X = asQ^tQ^arQJD, (21)
то, применяя -Р(а) к (21), получаем Xf =atQ2asQ1arQ3b. Лемма доказана.
Лемма Ав. Пусть (at, k>£C2[Y], (1<&<>) и t-+bi+)/a. Тогда
RX(X=:atQb), C2[X] = C2[Y] и ~~}В2(Х).
Доказательство, Легко видеть, что n ^ 3 и кроме двух
вхождений at в X имеется еще вхождение aq в X, причем q=^t. Следовательно,
189

каждое X такое, что C2[X]=C2[Y], можно представить по крайней мере
в одной из следующих форм:
X = S1atPatQaqR1, (22)
X = S^qP^atP^atR^ (23)
X = S3atP3aqP±atR3. (24)
Рассмотрим (22). Если S1=f^=A, то
X = arS^atPatQaqR^ (25)
Если r=^=t, то, применяя к (25) JP(а), получаем X1 =atRr, и,
следовательно, ~~]В2(Х). Если r = t, то рассмотрим два случая: a^R1 и a^Rv
Пусть agi?i, тогда применима лемма 2, так как t =£ q и t~>b(+)/a. На
основании леммы 2 (25) переводится в X1 =aqR, С2[Х'] = С2[Х]. Если
a^Rx то -Р(а) переводим (25) в.словоадб', и мы снова получаем ~~]2?2(Х).
Пусть 8г = А. Чтобы доказать ~]В2(Х), рассматриваем два случая:
a^_R1 и a£RV Также, как это было сделано выше, получаем X!=aqS>
С2 [X] = С2 [Xf]. Представления (23) и (24) рассматриваются аналогичным
образом.
Переходим к построению алгоритма восстановления в целом. Алгоритм
восстанавливает некоторое слово X, используя только информацию о его
составе второго ранга. Он строит последовательно букву за буквой
слово X. Пусть построено к первых букв слова X. Тогда Х = аа2.. ,акХ!Ь,
По слову аа2...ак и С2[Х] определяется C2[akXfb]. Чтобы определить
букву ак+1, нужно решить задачу определения второй буквы слова,
которая рассмотрена в леммах Af., (l^i^8). Решение этой задачи приводит
к определению буквы ак+1, т. е. буквы t или q, и к одному из
утверждений— (а) либо (б) на стр. 188. Если при построении каждой буквы
слова X выполняется (а), то, очевидно, имеет место В2 (X). Если же
хотя бы при построении одной буквы слова X выполняется (б), то,
очевидно, ~~}В2(Х).
При выборе второй буквы слова возможны 13 случаев, которые
объединены в блок-схеме алгоритма. Для каждого из этих случаев имеется
блок с соответствующим номером, в котором указаны: вторая буква
слова t или q, признак ~~]В2(Х), либо ПВ2(Х) (утверждение (а), либо
(б)) и лемма А., с помощью которой по исходной информации находится
решение. Исходная информация состоит из элементов (а, /г)>, (at, ку,
(аа, ру, (aq, iy, которые выбираются из C2[aY!b]. Рассмотрим два
примера.
Пусть n^l, р = 0, а=^Ь, t^bi+)/a9 к = 1, q-^b(~}/a, l — n — l.
Заметим, что р = 0 означает (аа, р)>£С2[Г]. Мы приходим к блоку 8.
Применяя лемму для пары (aq, ly, что возможно, так как 1 — п — 1,
получаем вторую букву слова q и признак ПВ2(Х).
Пусть п=^=1, р = 0, a=j^b, t->b{~}/a, k=^=n — 1. Получаем блок 12.
Применяем лемму AQ для пары (at, ку, получаем вторую букву t и
признак ~]В2(Х).
Случай, когда к — п в паре (at, tiy, не рассматривается, так как,
очевидно, возможна единственная вторая буква.
190

Блок-схема алгоритма восстановления второй буквы слова
Оценим сверху количество операций построенного алгоритма.
Напомним, что д(Х) = п. Легко видеть, что проверка условий £->йж/я,
t-^b{^\a для выбора^ очередной буквы делается не более двух раз.
Оценка (13), очевидно, заведомо справедлива для остальных операций,
необходимых при построении очередной буквы. Поэтому для всего
алгоритма получаем оценку сверху:
^ п < rf.
(26)
3. С помощью следствия 1 теоремы I найдем структуру
восстановимого слова, т. е. слова, для которого выполняется свойство В2(Х). Эта
структура описывается следующей теоремой.
Теорема II. Пусть для слова X выполняется свойство В2(Х).
Тогда X можно представить в виде
X '=■ С^В^С^В^.
• ^т^т^т+19
(27)
где
а2) Bi — РпР!, п > 2, Р1 — начало слова Р (1 <[ i <[ m);
а2) все буквы слова Р различны;
а3) А[В.]ПА1£к]=0(1<1, к^т);
191

а4) А1В4]ПА[Ск]=0 (l<*<m), (1<*<т + 1);
a5) если <a, &> £ C2 [C-fi^.. CmCm+1], то к < 2.
Докажем несколько лемм. Обозначим через Х{а} число к} такое, что
<(а, &)>£С21Х] (к — число вхождений буквы а в слово X).
Лемма 3. Пусть выполняется В2 (X) и X {а} > 2. Тогда
X = A(aY)maB, (28)
где иг^2, слово Y либо пустоу либо все буквы Y различны и а(*АВ.
Доказательство. Рассмотрим представление X:
X = AaZ1...aZnaB, (29)
в котором a£Z4 (l^i^ra) и aQAB, т. е. явно выписаны все вхождения
буквы а. Покажем, что если хотя бы одно Zi не пусто, то и все Zt.,
(l^i^ft) не пусты. Допустим противное. Пусть Zk=^=A, a Zp = A.
Из (29) получаем одно из следующих двух представлений:
X = Q1aZpaP1aZkaBv (30)
X = Q2aZpaZkaQ2. (31)
Рассмотрим (30). Применяя JP(a, а), получаем X1^^Q^aZ^P-^aZ^B^
Так как a£Zk и Zp=^=A, то Х^Х1, что противоречит Следствию 1.
Представление (31) рассматривается аналогично. Если все Z^ —пустые
слова, то лемма доказана. В противном случае рассуждением,
аналогичным предыдущему, доказывается, что Zi = Zk(l <^£, k^n). Покажем, что
в этом случае все буквы слова Z# различны. Нам нужно показать, что
в (28) . все буквы слова Y различны. Допустим противное, тогда
Y = Н1сН2с11ъ, и так как яг^>2, то (28) имеет вид
X = АаН1с112сН3аН1сН2сН3а... (32)
Применим к (32) JP(a9 с), в результате получим
XI = АаН1сН2сН2сН3аН1с113а... (33)
Так как В2(Х), то на основании Следствия 1 (32) совпадает с (33).
Учитывая, что aQY, получаем Н3= Н2сН3, следовательно, сН3^=А. Мы
пришли к противоречию.
Л е м м а 4. Пусть выполняется В2 (X) и X {а} > 2. Тогда X = A0PnPfB0,
где
(а,) гг>2, а£Р;
(а2) Р1 — начало слова Р;
(а3) все буквы слова Р различны;
(а4) А[Р,Р'](]Л[АоВо] = 0.
Доказательство. На основании леммы 3 получаем представление
(28), которое мы теперь будем рассматривать. Если JL[F] f] A[AB] = 0
в (28), то мы получили нужное нам представление.
Пусть A[Y]f] A[AB]=£0. Пусть c£Y и с£Л, причем Y=YxcY2,
А — АгсА2 и А[Аг] П A[Y]= 0. Тогда получаем представление X:
X = A1cA2aY1cY2aY1cY2.. .aYlCY2aB. (34)
192

Очевидно, что X {с} ^> 2, и мы можем применить лемму 3 к слову (34)
и букве с; получаем представление:
Х = Аг (cZ)n сВг. (35)
Легко видеть, что Z=Y2aY1, так как У{с} = 1. Так как А [А^\ f]
nA[Y]= 0. то в (35) А [Лх] П A \cZ] = 0. Если A [Z] П А [Вг] = 0,
то нужное представление получено. Пусть в (35) A\Z] f\ А[В1]=?£=0.
Пусть Вг = B'dB", причем d£Z к A [B'f] f)A[Z] = 0. Так как X {d} > 2,
то к букве d и слову X применима лемма 3. Получаем
X = Al{dQ)mdBf'. (36)
Положим в (35) Z — ZxdZ2, тогда из (35) и (36) получаем Q = Z2cZ1.
Таким образом, получаем из (35) и (36):
X=A1cZ1dZ2cZ1dZ2. .. cZ^dZ^cB^
X = AfdZ2cZ1dZ2cZ1.. ,dZ2cZxdB".
Далее получаем А1 = A1cZ1 и Вг = ZxdBu'. Окончательно получаем
представление X:
X = A^Z^dZ^Z^ . .cZ^ZtfZ^B",
т. е. X = Лх (cZxdZ2)h cZ^dB". Лемма доказана.
Лемма 5. Пусть X=AZC, Z=^=Au A[Z] f) A[AC]=£ 0. Пусть
далее выполняется В2 (X) и X {а} > 2. Тогда истинно одно и только
одно из следующих трех утверждений:
(аг) а£АС9
(а2) a£AZ,
(а3) agZC.
Доказательство. Рассмотрим случай, когда а^А. Из условия
следует, что a^Z. ПокажехМ, что а£С. Допустим противное. Пусть
а£С, пусть далее X = A1(aY)m аВх — представление X согласно лемме 3.
Из того, что а £ А и а£С, следует, что Z есть подслово слова (aY)m а.
Так как a£Z, то Z— подслово У. Ввиду того, что т ^ 2, A[Z]n
П А [С] = 0 или A[Z] f] A [A] = 0, что противоречит условию. Случаи,
когда а £ Z или а £ С, рассматриваются аналогично.
Лемма 6. Пусть имеет место В2(Х) и
Х = А1В1А2Б2...АпВпАп+1, (37)
где
(1) А[В.]Г)А[Вк] = 0 (1<*\ &<л),
(2) i[BJfliHJ=0 (ЦК4 (1<А<п-И),
(3) а^В1В2...Вп и Х{а}>2.
Тогда можно указать такое р, *шго а£Л , и если i=^=p, то a(*Ai9
(1<*<л + 1).
Доказательство. Обозначим в (37) Вг = Z, Аг — А и А2В2А3.. •
.. .BtiAtH.1 = C. К слову ^ZC применима лемма 5.
Так как aig J5X, то все вхождения а в слове X находятся либо в слове А,
либо в слове С. В первом случае лемма доказана. Пусть все вхождения
а — в слове С. Введем обозначения: A1B1A2 = Af, B2 = Zf и А3В3А±. ..
. . . ВпАп+1 = С. ПрименявхМ лемму 5 к слову A'ZfCf. Так как a (<Zl7 то все
193

вхождения а находятся либо в А\ либо в С7. Если все вхождения буквы а
находятся в Af, то, учитывая, что одновременно все вхождения а
находятся в слове С, получаем, что все вхождения а находятся только в слове
А2, и лемма доказана. Если все вхождения — в слове С, то применяем
аналогичное рассуждение.
Доказательство теоремы II получаем теперь, применяя последовательно
к каждой букве а £ X такой, что X {а} ^> 2, леммы 4 и 6.
§ 2. Регулярные функции
1. Мы по-прежнвхму рассматриваем слова в конечном алфавите 2*
пусть знак * не входит в 2» пусть далее слово X в 2 представлено
в форме Х = Х1АХ2, где Х1Х2=Г=А и А=^=А.
Слово Хг*А*Х2 (вхождение по А. А. Маркову) назовем отрезком
слова X, слово А — основой этого отрезка. Если Хх = Л, то получаем
начальный отрезок X, если Х2 = Л, то концевой. Начальный и
концевой отрезки будем называть граничными.
Пусть X = Х1В1АВ2Х2, где В1В2=^=Л и А =^= А. Рассмотрим два отрезка
слова X:
Хг * Вг А В2*Х2 и Х& * А * В2Х2.
Обозначим их соответственно через Сг и С2. Будем говорить, что
отрезок С2 покрывается отрезком Сг в слове X.
Множество &(Х) отрезков слова X назовем покрытием, если каждый
однобуквенный отрезок слова X покрывается некоторым отрезком из а (X).
Пусть слово X представлено двумя способами X — ХгАХ2= Y1BY2.
Будем писать
Хг*А*Х2~$ Y^BtY» (38)
если d(X1)<d(Y1) и d{X2)>d{Y2).
Назовем отрезки А и Б слова X перекрывающимися, если
Х = Х1С1аС2ЬС3Х3, где С2^=А, (39)
А = Хг * С1аС2 * ЬС3Х3, (40)
В = ХхСха * С2ЪС3 * Х3. (41)
При этом будем говорить, что А справа перекрывается с В, а В слева
перекрывается с А в слове X.
Покрытие л(Х) назовем простым, если не существует отрезков
Zv Z2^ci(X) таких, что Zx покрывается отрезком Z2 в слове X.
Определение 4. Простое покрытие а(X) назовем связным, если
для каждого неконцевого отрезка А£а(Х) найдется отрезок Б^а(Х)г
такой, что А справа перекрывается ей, и для каждого неначального
отрезка A^ol(X) найдется отрезок Z?£cc(X), такой, что А слева
перекрывается с Б.
Лемма 7. Пусть &{Х) связное покрытие. Тогда отношение {38)
упорядочивает все отрезки из а(Х), при этом первый в этом упорядочении
элемент является единственным в а (X) начальным отрезком, а
последний — единственным концевым.
194

Пусть &(Х) связное покрытие. Перекрывающиеся отрезки А, Е£а(Х),
где А—$В, назовем соседями, если не существует С^а(Х), такого, что
А-^С-^В.
Определение 5. Пусть А — неконцевой отрезок из связного
покрытия а(Х) и пусть В его (очевидно, единственный) правый сосед, пусть,
наконец, (39), (40), (41) — соответствующие представления слова X и
отрезков А, Б. Отрезок С1*а*С2 слова С^аС^, которое есть основа отрезка А,
назовем левой отметкой отрезка А (левой отметкой основы А).
Аналогичным образом определяется правая отметка для каждого неначалыюго
отрезка из а(Х), т. е. отрезок C2*fe*C3.
Таким образом, в каждом отрезке связного покрытия a (Z), кроме
граничных отрезков, выделяются два отрезка: левая и правая отметка, основы
которых состоят из одной буквы. В начальном отрезке выделяется только
левая отметка, в концевом — только правая отметка.
Рассмотрим связное покрытие а(Х). На основании леммы 7 элементы
а (X) образуют конечную последовательность отрезков
A^A^...-^А^. (42)
Для каждого члена последовательности (42) образуем
упорядоченную тройку
<A:,at,?{>, (43)
где А\ — основа отрезка А{; at. и $4 — соответственно левая и правая
отметка А., при этом РХ = А и а^+1 = А. Обозначим тройку (43) буквой А{
и назовем ее основой с отметками. Последовательность (42) порождает
последовательность основ с отметками
Av A2, ..., Ар+1. (44)
Заметим, что в (44) различные члены могут обозначать одну и ту же
основу с отметками. Пусть Ак и Аг — два произвольных члена из (44).
Будем говорить, что Ак справа сцеплен с Аг и писать (Ак <-► Аг), если
A*k = XaY, A*r=YbZ, 'Y^A, (45)
где oik = X*a*Y, |3r = Y*b*Z — левая и правая отметки А*к и А*.
Лемма 8. В последовательности (44) имеет место:
*J(At**AM) (1<«<Р),
а2) если (At^>A8) и (Aq<+A8), то A*=Y1a1P и A*q = Y2a2P, где Y^P
и Y2a2P — представления левых отметок А* и A*q;
а3) если (At+>A8), Aq — некоторый член из (44) и Л^=У1а1Р, A*q =
= Y2a2P (Y-fi^P и Y2a2P — представления левых отметок А* и Aq), то
(At+»A.).
Рассмотрим теперь произвольную перестановку чисел 1, 2, . . ., р,
(р + 1), оставляющую на месте 1 и (р-\-1). Пусть 1, тг2, , . ., пр, (р + 1)
такая перестановка. Рассмотрим последовательность, полученную из (44):
В19 В2, ..., Вр, Bp+V (46)
такую, что В1=А1, Вр+1 = Ар+1 и B. = Ani(2^i^p).
Будем говорить, что последовательность (46) получена перестановкой
последовательности (44). Найдем условие, при котором (46) есть
последовательность основ с отметками некоторого связного покрытия а(Х).
195

Лемма 9. Пусть &(Х)— связное покрытие и (44)—
соответствующая последовательность основ с отметками. Пусть (46) есть
перестановка (44). Если в (46) (В. ^> В.+1), (1<^<^р), то существует слово Z
и такое его связное покрытие a0(Z), что (46) есть последовательность
основ с отметками, соответствующая а0 (Z).
Доказательство. Слово Z и а0(Z) строятся следующим образом.
Возьмем Вг и В2 в (46). Пусть
51 = <5Г, «х, Д>, S2 = <^2, a2, р2>
— основы с отметками. Так как Вг сцеплено справа с Z?2, T0 B* = XaY,
а В2*= YbH, где ах = Хх * а * F и $2=Y *Ь*Н — соответствующие
отметки. Построим слово Z1 = XaYbH. Далее рассмотрим В2 и В3. Выделим
в В2 левую отметку, а в В3 правую отметку и надстроим справа слово Zx
с помощью Вз и т. д.
Рассмотрим произвольное связное покрытие ol(X) и пусть (44)—
соответствующая ему последовательность основ с отметками. Введем для
членов (44) отношение со. A.znAj в (44) имеет место тогда и только тогда,
когда (A*, at., |3f.)> = <^4*-, а., $>>, т. е. когда основы с отметками
совпадают. Отношение со разбивает все члены (44) на классы эквивалентности.
Для каждого такого класса К образуем упорядоченную четверку
<А\ а, р, /с>, (47)
при этом <^4*, а, (5Г> — соответствующая основа с отметками, порождающая
класс К, а к — число элементов класса К. Объединим все четверки (47),
соответствующие всем классам К, в одно множество. Обозначим это
множество через M[ol(X)]. Элементы М[а(Х)], соответствующие граничным
отрезкам а(Х), назовем также начальным и концевым элементами.
Таким образом, каждое связное покрытие порождает единственное
множество М[а(Х)].
Поставим в соответствие каждому слову X некоторое его связное
покрытие а(Х). Получим функцию a (X). Каждая функция a(Z) порождает
функцию ЛГ[ос(Х)], которую назовем нормальной.
Определение 6. Нормальную функцию h(X) назовем регулярной,
если для любой пары слов X и Y и для каждой нормальной функции
g(X) из равенства g(Y) = h(X) следует равенство h{Y) = h(X).
Пример конкретной регулярной функции дает нам состав второго
ранга слова X.
Лемма 10. Пусть две регулярные функции Ь,г(Х) и h2(X) принимают
одно и то же значение М*. Пусть Н1 — множество всех слов {At}, для
которых hx(А{) = М*, пусть далее Н2 — множество всех слов {Bj}9 для
которых h2 (Bj) = М*. Тогда множества Пх и Н2 совпадают.
Замечание. Мы не можем, разумеется, по одному значению
регулярной функции судить о ее поведении в целом, но, зная одно значение М*
регулярной функции h (X), можно найти все слова Zt., такие, что h (Zf) = М*.
Это можно сделать, например, перебором всех слов некоторой
фиксированной длины, которая легко определяется. Сделанное замечание
позволяет сформулировать задачу восстановления слова сразу для всего класса
регулярных функций: по известному значению М* некоторой регулярной
196

функции h(X) при неизвестном слове X построить слово Y, такое, что
h(Y) = M*.
2. Алгоритм для решения этой задачи мы получим с помощью
сведения к задаче восстановления слова, рассмотренной в § 1. Кроме
конечного алфавита 2» нам удобно ввести еще два бесконечных алфавита
2y~(Ti> Т2> •••} и 2а "{Pi» Р-2> •••}» не имеющих общих букв.
Объединение алфавитов 2Т и 2а обозначим 2т- Введем 6 операторов, которые
объекты, построенные с помощью 2> кодируют объектами, построенными
с помощью 2Та- Все эти операторы различным объектам ставят в
соответствие различные объекты.
Каждому непустому слову в 2 ставим в соответствие букву из % .
Соответствующий оператор обозначим
Пусть а (X) — произвольное связное покрытие и А = <(Л*, а, {В)> —
произвольная основа с отметками этого покрытия (см. (43)). Каждой такой
тройке ставим в соответствие букву из 2Т- Получаем оператор
Пусть по-прежнему Л=<(Л*, а, р^> — произвольная основа с отметками.
Тогда A* — PaQ, где a — P*a*Q (см. (43)). Если а^=Д, то тройке А
ставим в соответствие пару <уЛ, ^)>, где уЛ = ГТ[Л] и рр = ФД@];
получаем оператор
Г[А] = ^к,^у. (50)
Если а = Д, то положим Г [Л] = ул.
Пусть М*—значение некоторой регулярной функции. Пусть х£М*9
тогда х — </Г, а, (3, т> (см. (47)). Пусть А = </Г, а, |3)>—
соответствующая основа с отметками. Каждому объекту х^М* ставим в соответствие
пару <j*p.,, тга>, где Г[Л]=<Та;, ^>. Получаем оператор
Пусть М* — значение регулярной функции. Каждому элементу Л/*, т. е.
объекту £it оператор (51) ставит в соответствие объект Ф [х.]. Множеству Л/*
поставим в соответствие множество, состоящее из всех объектов Ф \х{],
где х. £ Л/*. Получим оператор
Ф[ЛП={Ф[£,1}, £<£М\ (52)
Пусть регулярная функция h(X) принимает значение на некотором
слове X. Пусть а(Х) — соответствующее связное покрытие, а (44) —
последовательность основ с отметками для этого покрытия. Слову X в 2
ставим в соответствие слово в алфавите % :
Ч* [X] = y w. т а • • • Т Р- Т (53)
гДе <Т„,^,п,> = ГИД (!<*</>) и Г[4р41] = Тя^. Все 6 операторов
(ФДХ], ГТ[Л], Г [Л], Ф[^], Ф[Щ, Ф[Х]) построены.
Всюду далее аргументами регулярной функции являются слова в
алфавите 2-
197

Лемма 11. Пусть регулярная функция h(X) принимает значение М*.
Пусть далее слово Z таково, что h (Z) = АГ. Пусть V[Z]u Ф [М*] —
результаты применения операторов (53) и (52) к слову Z и множеству М*;
пусть, наконец, C2[*V[Z]\ есть состав второго ранга слова 4*[Z], тогда
Ф[М*]СС21Ф[^1.
Доказательство леммы следует из определения операторов (48)—(53).
Из (53) ясно, что множество Ф [М*] содержит всю информацию о под-
словах у [х . слова Щ [X]. Чтобы превратить Ф [М*] в состав второго
ранга слова 4*[Z], надо «добавить» информацию о подсловах р-^.Т .
Пусть выполняется условие леммы 11. Введем процедуру пополнения
множества Ф[М*], которая превратит его \в множество С2 [Ф" [Z]], при этом
будем использовать информацию только о Ф [Л/*]. Каждому элементу
множества соответствует основа с отметками (см. (47)). Для членов (44) было
введено понятие (Ак <+ Аг) (см. (45)). Пусть х, у£М*. Будем говорить,
что х сцеплен справа с у, если это имеет место для соответствующих
основ с отметками (при этом может оказаться, что х сцеплен с х). На
основании леммы 8 для неначального элемента х £ М* найдется у £ М* такой,
что у справа сцеплен с х. Пусть Ф [x]=(^q[it, fc) и Ф[г/] =<jriv iy
(см. (51)). На основании леммы 8 буква pg в <YA» О определяется
однозначно элементом х. Образуем пару <^8^д, ку и назовем ее левым
дополнением Ф [х]. Для каждого неначального элемента М* построим его левое
дополнение. Присоединим к множеству Ф \М*] левые дополнения всех его
элементов и сформируем граничные элементы, которые легко
определяются. Введенную операцию пополнения множества Ф [М*] обозначим
{Ф [Л/*]}0, а полученное множество Ф0 [М*] получаем:
Ф0[ЛП = {Ф[ЛЛ}о. (5^)
Лемма 12. Пусть выполняются условия леммы 11. Тогда Ф0[М*] =
= c2mz]].
Лемма 13. Пусть для регулярной функции h, h(X)=M*. Пусть
Ч* [X] — результат применения оператора (53) к слову X, пусть далее Т
есть результат регулярного преобразования слова Ф[Х] (см.
Определение 2). Тогда существует слово Z в алфавите 2> гаакое, что h(Z) =
=М* и V[Z] = T.
Доказательство. Согласно (53),
W[X] = aA«2P2...«AVi> (55)
где at. и Pf. обозначают соответственно буквы ^ и ^ <(а., Р$-)>~ Г[А{],
ар+1 = Г [Л +1]. Перенесем отношение (Ак <+ Аг) (см. (45)) на коды
объектов А., т. е. на объекты Г[Л4.]. Введем обозначения: (аД. <н» аД), если
(A.+>At); (аД «е> Q), если Q — oLfifi1 и имеет место (аД ^> аД).
Пусть Т есть результат регулярного преобразования слова (55). Так
как регулярное преобразование не меняет состава второго ранга и так
как a.=^=pfc, то
r = a;p>;p;...a;p;a;+1, (56)
где а[ = atj, a' = a ! и а'$'. совпадает с некоторым подсловом а^.ру
слова (55). Таким образом, (56) есть «перестановка» подслов аД. слова (55).
198

Из леммы 8 получаем:
а) в слове (55): (а,р, ^ а,+1р,+1) и (аД <-> а^+1);
б) в слове (55): если (a$f ++ ак$к) и аД входит в (55), причем $q = $ti
то (аЛ^аА)- Покажем, что в слове (56): «# «*>«;+1р;+1) и (а^^%+1).
Пусть (56) есть результат регулярного преобразования JP(a, (3) и слова
VjX] и Т имеют вид:
Ф1Х] = Х1аРрХ2а(?рХ3,
Т = Х1а(?рХ2аРВХ3.
Рассмотрим случай, когда Р =^ A, Q=^=A, a£2pi и Рб2^> остальные
случаи рассматриваются аналогичным образом. Пусть а=[^ и P = pfc,
тогда
Ф [X] = Х[а&Р'*к$кХ'2а№'а£гХ'„ (57)
Г = Х[а,№'а£кХ'2*№'*к№^ (58)
где Р, = Р, и рг=рл. Так как («А «-<?') в (57) и р, = р„ то (аД «н> <?')
в (58). Аналогично, (аЛрЛ ^> Х£) в (57), следовательно, (аг(3Л <^ Х^) в (58);
{аД,<->Хд) в (57), следовательно, (а&Рг<->Хз) в (58). Таким образом,
в слове (58): (а$ <-> <+1Р;+1) и (а'р$'р «+ а'р+1).
Если слово Т получено регулярным преобразованием вида JP(a) из
слова Ч*[Х], то доказательство (а'$'4 **> a'i+1$'.+1) аналогично.
Применим лемму 9 к основам с отметками Г"1 [а^.] и Г~~] [а^+1], что
возможно, так как в (56): (а'$'4 <+ 0Lf.+ L$'i+1). Получаем слово Z в 2» такое,
что 4![Z] = T, и связное покрытие a0(Z), для которого М[a0 (Z)] = М*.
Так как h — регулярная функция, то h (Z) = М* (см. Определение 6) и
лемма 13 доказана.
Лемма 14. Пусть для регулярной функции h h (X) = М*. Пусть Т —
слово в алфавите 2Т{1» такое, что С2[Т] = Ф0[М*] (см. (54)). Тогда
существует слово Y в алфавите 2> такое, что Ч* [У] = Т и h[Y]=M*.
Доказательство. На основании леммы 12 С2[Ч*[Х]] = Ф [М*].
Применяя теорему 1, получаем последовательность слов в ^ :
где Zx —Ч*[Х] и Z —Т. Применяя лемму 13 к Zx и к результату
регулярного преобразования Z2, получаем Z'2 в 2< такое, что h (Z'2) = М* и
4*[Z'2] = Z2. Применяя последовательно лемму 13 к Zt., получаем
последовательность слов Z'. в 2» таких, что Ч*[Z'J = Z.nh (Z't) = М*. Слово Z^ —
искомое.
Сведение задачи восстановления слова для класса регулярных функций
к задаче восстановления слова по его составу второго ранга закончено.
Пусть М* — значение некоторой регулярной функции h(X). Применяя
к множеству Ф [М*] процедуру пополнения (54), получаем Ф0 [М*] = С2 [Ч* [X]]
(лемма 12). Таким образом, Ф0 [М*] есть состав второго ранга некоторого
слова Т в алфавите 2Yu/ ^° множеству Ф0[М*] алгоритм восстановления,
изложенный в § 1, строит слово Г, такое, что С2 [Т] = Ф0 [М*]. На
основании леммы 14 существует слово Y в алфавите 2> такое, что 4*[Y]=T
и h(Y) — М*. Слово Y по слову Т строится способом, указанным в лемме 9;
слово Y есть решение задачи восстановления.
199

Если В 2 (Т) истинно (см. Определение 3), то слово Уесть единственное
решение. Но из ложности В2(Т) не следует еще неединственность решения.
Можно показать, что для конкретных регулярных функций, введенных
в§3, построенный алгоритм решает полную задачу восстановления слова,
т. е. не только получает слово У, такое, что й(У)=М*, но и определяет,
существует или нет слово Z, Z =^= У, такое, что h(Z)—M^. Единственность
решения здесь эквивалентна истинности В2(Т).
Оценим сверху число операций построенного алгоритма. Пусть
восстанавливаемое слово X и д(Х) = п. Тогда количество элементов в М*
не превосходит п, а каждый элемент можно считать словом с длиной
порядка п. Следовательно, процедура пополнения имеет количество
операций порядка п2. Кодирование для конкретного множества М* требует
конечной части алфавита 2V[X с количеством букв не более 2п. Таким
образом, верхняя оценка (26) сохраняется.
§ 3. Примеры регулярных функций
1. Будем понимать под длиной отрезка длину его основы.
Естественным обобщением состава второго ранга является регулярная функция,
которая получается с помощью связного покрытия, состоящего из всех
отрезков слова X, длина которых равна некоторому фиксированному
числу к (к ^ 2). Отметки в отрезках такого покрытия находятся
непосредственно по их основам: первая буква основы и последняя буква основы.
2. Пусть слово X представлено в виде
Х = АгА2...Ая, А.=^К (1 <*<*)• (59)
Образуем п отрезков слова X:
Ai = А,Аг ... At_, *At*AM... А„А„+1, (60)
полагая при этом А0 = Л и Ап+1 = Л. Множество отрезков {Аf.} (1 ^ i ^ п)
назовем разбиением слова X; Аг — начальный отрезок разбиения, Ап —
концевой. Пусть К1 [X] и К2[Х] — два разбиения слова X, таких, что
пересечение множеств R1[X]f]B2[X] пусто.
Образуем сумму этих множеств
НЛХ]ИЯ2[Х]. (61)
Множество (61) есть покрытие, превратим его в простое покрытие
(см. § 2), выбросив те из его отрезков, которые покрываются другими
отрезками этого множества. В результате получим покрытие, которое обозначим
В1[Х]+В2[Х]. (62)
Пусть теперь Ва[Х] — разбиение слова X (59), такое, что
(1) А,=А\а (1<*<л-1) и аёМ;,_
(2) если Х — Х'а, то Ап = А'па и а£А'п, если X=Xft и t=^a, то
Ап = А'п*> а€Ап-
Для двух различных букв а и Ъ рассмотрим два разбиения Иа[Х\ и
Rb[X] и образуем две суммы:
<P[Xl = Ra[X]\jRt[X], (63)
b[X] = Ra[X] + Rdn (64>
200

где (64) получено из (63) так же, как (62) получено из (61). Если слово X
не содержит одну из букв а или &, то положим Ф [X] = {X} и Ф [X] = {X}.
Оператор Ф [X] ставит в соответствие сдову X связное покрытие а(Х);
так же, как это было сделано в общем случае, построим функцию M[ol(X)]
(см. (47)). Если Ф [Х]= {X}, то соответствующую четверку (см. (47))
определим, например, как <^Х, Д, А, Д)>.
Мы построили конкретную нормальную функцию, которую обозначим
h0(X). Покажем, что h0(X) — регулярная функция. Пусть М*
—некоторое значение нормальной функции h0 (X).
Отметим ряд свойств множества М*. Пусть х £ М*, тогда #=<^4*t
а, [В, ку. Пусть уг принимает одно из значений а или Ь, а у2 есть буква Ъу
если ух есть буква а и у2 есть буква а, если уг есть буква Ъ. Для любого
элемента #, кроме возможно концевого, имеет место
А' = А'Ь, Ь£А'. (65)
При этом левая и правая отметки основы Л* (см. Определение 5)
имеют вид
а = Вг * у2 * В^ь ъ£В2> (66>
р = Сх * у2 * CVft, т2 G «Cx. (67)
Таким образом, отметки находятся непосредственно по основе 4*.
Дадим теперь несколько иное определение связного покрытия (64).
Двигаясь вдоль слова X слева направо, будем «вырезать» отрезки
связного покрытия (64) после некоторых вхождений букв а и 6, которые
назовем разделяющими буквами. Пусть (42) есть представление (64) в виде
последовательности отрезков и А* — их основы (см. (43)). Начальный
отрезок Аг порождается разделяющей буквой у1? такой, что А\=А'уг
и Yi £ А', при этом у2£А'. Пусть отрезок Ак порожден разделяющей
буквой у1? тогда Ак=Акуг. Отрезок Ак+1 порождается разделяющими
буквами Y и у", такими, что вхождение у' расположено левее вхождения
Yi, а вхождение у" — правее вхождения у1# Легко видеть, что т' = у2г
y" = Y2 и, кроме того, у" есть первое вхождение буквы у2 справа от
вхождения ух, а у' — первое вхождение буквы у2 слева от вхождения ^
(см. (65) — (67)). Мы определили, таким образом, способ построения
связного покрытия а(Х), который приводит к построению функции
М[а (X) ], совпадающей с h0 (X).
Докажем теперь, что h0 (X) есть регулярная функция. Пусть
h0(X) = M*. (68)
Нам надо показать, что для каждого связного покрытия [В (У), такого, что*
М[$ (У)]=М*, имеет место h0 (У) = М* (см. Определение 6). Будем строить
связное покрытие [В (У) с помощью разделяющих букв, как это было
сделано выше для а(Х). Свойства (65) — (67), естественно, сохраняются для
[В(У), так как М [[В (У)] = М*. Пусть Лх — начальный отрезок [В(У);
очевидно, что он получен таким же способом, как и Ах для а(Х). Пусть
построен Вк для [В (У). Рассуждая, как это было сделано выше для Ак
из а{Х), мы получаем возможность выбора разделяющих букв у' и у"
для построения 5^+1 точно таким же способом, как это было сделано-
для Ак+и что диктуется свойствами (65)—(67) основ и отметок. Таким
201

образом, построение Р(У) делается по тем же правилам, что и a(3Q, и,
следовательно, h0(X) есть регулярная функция.
3. Введем обобщение операторов (63) и (64).
Пусть 2^.(1 <С к ^ р) — конечные алфавиты, попарно не имеющие
общих букв. Для каждого алфавита 2Л построим оператор Нк[Х],
который является разбиением (59) со следующими свойствами:
(1)А<=А& (1 <*<»-*). а,е2*;
(2) А\ (1<^<^тг— 1) не содержит букв из ^к;
(3) если X — Xfa, а£2л» то Ап — А'па и Лм не содержит букв из 2*»'
(4) если X — X'q и <7 52*> то Ап = А'пЯ и -4» не содержит букв из 2*-
Аналогично (63) и (64) построим суммы множеств:
Ф0 [X] = R1 [X]\JR2 [X]\J... \JKP [X],
Оператор Ф0[^П ставит в соответствие слову X связное покрытие ol0(X).
{Следует сделать поправку, если буквы 2& не входят в слово X,
аналогичную поправке для оператора Ф [X].)
Можно показать, что М[а0 (X)] — регулярная функция.
Оператор Ф0 [X] является формальным обобщением тех способов
«расщепления» молекул на фрагменты, которые применяются в биохимии
(см. [1]и [2]).
ЛИТЕРАТУРА
1. В. Г. Туманян, Л. Л. Киселев. Биофизика, 8, 147, 1963.
2. Р. Холли. Молекулы и клетки, вып. 3. М., «Мир», 1968, стр. 77.
3. Я. С. Сметанич. О восстановлении слов. ДАН СССР, 201, J\° 4, 1971, стр. 798.

А. Д. ТАЙМАНОВ
О НЕКОТОРЫХ РАБОТАХ,
СВЯЗАННЫХ С ДЕСКРИПТИВНОЙ ТЕОРИЕЙ
МНОЖЕСТВ И ТОПОЛОГИЕЙ
Идеи, возникшие в дескриптивной теории множеств, оказали сильное
влияние на некоторые смежные области математики, в особенности на
топологию, теорию алгоритмов, математическую логику.
Методы, созданные в дескриптивной теории множеств, нашли
применение в решении ряда проблем, возникших в теории функции, топологии,
математической логике [1].
Существенную роль в этом сыграли лекции, научные семинары
П. С. Новикова в Московском педагогическом институте им. К. Либк-
нехта, в МГПИ им. В. И. Ленина, в Московском университете им. М. В.
Ломоносова и в Математическом институте им. В. А. Стеклова АН СССР,
его научные работы, как опубликованные, так и неоконченные, а также
личные беседы Петра Сергеевича со своими учениками и другими
математиками.
В настоящей статье дается обзор некоторых работ по топологии,
связанных с дескриптивной теорией множеств.
1. В двадцатых годах в Московской математической школе бурное
развитие получили дескриптивная теория множеств и
теоретико-множественная топология. На стыке &тих двух направлений возникло много
проблем, из которых наиболее естественной, тесно связанной с этими
направлениями, была проблема топологической инвариантности класса
^-множеств: всегда ли топологический образ В-множества класса а будет
5-множеством того же класса?
Она была решена в начале 20-х годов с помощью следующей теоремы
о продолжении гомеоморфизмов.
Теорема М. А. Лаврентьева (2—4). Пусть У, К —
полные метрические пространства, пусть А С X, В С Y и пусть / :
: А -> В гомеоморфизм. Тогда существует продолжение отображения /
до гомеоморфизма двух G^-множеств, расположенных в этих пространствах.
Из этой теоремы легко следует топологическая инвариантность
классов 2?-множеств, начиная со второго, а также классов, доставляемых
более сложными теоретико-множественными операциями (А, С А и
другие), теории которых созданы в работах П. С. Александрова, А. Н.
Колмогорова, Л. В. Канторовича, Л. В. Келдыш, А* А. Ляпунова, П. С.
Новикова, Ю. С. Очана, Ф. Хаусдорфа и др. [5].
203

С помощью этой теоремы получается топологическая инвариантность
подклассов В-множеств, введенных М. А. Лаврентьевым [31]. Таким
образом, проблема топологической инвариантности классов В-множеств
получает исчерпывающее решение [4, 31].
В 30-х годах была популярна идея Эрлангенской программы Ф. Клейна;
поэтому возник вопрос о выделении более широкой группы
преобразований, сохраняющих класс В-множеств.
При гомеоморфизме / : X -> Y всякое множество А, открытое
(замкнутое) в X, переходит в множество B=f(A), открытое (замкнутое) в Yy
т. е. / является и открытым и замкнутым. (Отображение / : X -> Y
топологических пространств X, Y называется замкнутым (открытым), если
образ / (А) всякого множества А, замкнутого (открытого) в X, является
замкнутым (открытым) в Y.)
Эти свойства гомеоморфизма играют важную роль в доказательстве
инвариантности класса В-множеств. Но из доказательств не видно, какое
из них существенно: сохранение класса открытых множеств или
сохранение класса замкнутых множеств.
Возникли вопросы о сохранении класса В-множеств при открытых
отображениях и о сохранении класса В-множеств при замкнутых
отображениях. Для решения этих вопросов понадобились усиления теоремы
Лаврентьева для соответствующих отображений.
2. Открытые отображения. Первый шаг сделал С. Ма-
зуркевич, доказав следующую теорему.
Теорема С. Мазуркевича (4). Пусть X, Y — полные
сепарабельные пространства, А а К и отображение / : А -> /(^4) d Y —
открытое. Тогда отображение f имеет открытое продолжение f* : А* ->
->/*(4*), где А* — некоторое G^-множество.
Но открытое отображение / может не быть взаимно однозначным,
и рассуждения, полезные в доказательстве инвариантности класса
В-множеств при гомеоморфизме /, не проходит, если / — открытое отображение.
Поэтому дескриптивная природа множества В оставалась не выясненной.
Этот вопрос требовал специального рассмотрения и был решен Ф. Хаус-
дорфом [6]. Он доказал, что открытый образ В-множества всегда будет
В-множеством, и высказал предположение, что это верно и для дальнейших
классов В-множеств [1].
Естественно, что проблема Хаусдорфа привлекала интересы
математиков. Однако Л. В. Келдыш [7] опровергла эту гипотезу, доказав
следующую теорему.
Теорема Л. В. Келдыш. Всякое В-множество является
открытым образом множества, являющегося пересечением Gb и Fb.
Доказательство этой теоремы основано на тщательном изучении
структуры Ss-операции, порождающей В-множество. Тем не менее в решении
проблемы Хаусдорфа идея продолжения отображения оказалась
полезной; ответ на вопрос Хаусдорфа получается из следующей просто
доказываемой теоремы о продолжении непрерывного отображения до
открытого отображения.
Теорема (8, 9). Пусть У1 = {X{}iei — семейство подмножеств
пространства X, инвариантное относительно гомеоморфных отображений
204

и счетного сложения. Тогда всякое множество, являющееся непрерывным
образом множества Ха £ <21, будет открытым образом другого
множества Xq из <21, являющегося суммой счетного семейства гомеоморфных
образов множества Ха.
Отсюда легко следует, что всякое Л-множество является
счетно-кратным открытым образом множества типа Fa f] Gb; всякое 5-множество
является открытым образом множества типа Gb f] FG, всякое проективное
множество класса А2 является счетно-кратным образом множества типа С А.
Поскольку класс всех открытых отображений оказался слишком
широким, желательно выделить подкласс открытых отображений,
сохраняющих класс В-множеств.
Такие классы, по-видимому, можно выделить разными способами.
Одним из таких будет класс всех изолированных отображений.
Определение. Непрерывное отображение f : X -> Y
топологического пространства X в Y называется изолированным, если каждое
множество f~x{y), у £ Y содержит точку, изолированную в множестве f'1 (у).
Теорема [8, 9]. Если семейство подмножеств {X.}ieI гильбертова
кирпича Н содержит все замкнутые и все открытые подмножества
кирпича Н и замкнуто относительно счетной суммы и счетного пересечения,
то оно замкнуто относительно любого открытого изолированного
отображения /, т. е. из X^_{Xi}. Т следует f (Х)£ {X.}iel.
Из этой теоремы легко следует, что открытое изолированное
отображение сохраняет класс 5-множеств и класс множеств, доставляемых
Ss-операциями, а также сохраняет размерность пространства. Отсюда
получается теорема П. С. Александрова о сохранении размерности
пространства при конечно-кратных открытых отображениях.
Если Т (X) — группа гомеоморфизмов X, I (X) — полугруппа
изолированных открытых отображений X, О (X) — полугруппа открытых
отображений X в X, то
T(X)CZI(X)CZ0(X)
и многие свойства пространства X, сохраняющиеся при отображениях
из Т(Х), сохраняются также при отображениях из 1{Х).
Поэтому понятие изолированного открытого отображения является
обобщением понятия гомеоморфизма и решает интересовавший нас вопрос
о нахождении подкласса открытых отображений, сохраняющих класс
5-множеств.
3. Замкнутые отображения. После работы Л. В.
Келдыш [7], где была решена проблема Хаусдорфа, возник интерес к
замкнутым отображениям. Отображение / называется компактным, если
полный прообраз /_1 (у) каждой точки у £ Y является компактным
множеством. И в этом случае при изучении инвариантов замкнутых
отображений основную роль сыграла идея продолжения отображений.
И. А. Вайнштейн доказал следующую теорему о продолжении
замкнутых отображений.
Теорема И. А. Вайнштейна [13]. Пусть f — замкнутое
отображение пространства X на пространство Y. В этом случае сущест-
205

вуют такие абсолютные G ^пространства X*, Y* и замкнутое
отображение ср пространства X* на пространство У*, что
1) Хс X*, Y С F\ причем включение изометричное;
2) ма X отображение f совпадает с ср.
2?с/ш исходное отображение f компактно, то отображение ср также
компактно и, помимо условий 1), 2), удовлетворяет условию
cp-i(7)=X.
Отсюда И. А. Вайнштейн получает следующую теорему о сохранении
б?8 при замкнутых отображениях.
Теорема. Пусть дано замкнутое отображение f пространства X
на пространство Y'. В этом случае, если % есть абсолютное Gb, то и Y
есть абсолютное б?5.
Что касается В-множеств более высоких классов, то в [13] доказано,,
что класс В-множеств не может понижаться при замкнутых компактных
отображениях и поставлены вопросы о повышении класса В-множеств
при компактных замкнутых отображениях в случае, когда этот класс
выше первого.
Изучение продолжения замкнутых отображений приводит к решению
указанных вопросов.
Они решены в работах [10, 11, 12] путем тщательного изучения
продолжений замкнутых отображений линейных множеств, точнее,
подмножеств эвклидовой прямой. Основной результат содержится в
следующей теореме.
Теорема [11]. Пусть f — компактное замкнутое отображение
множества А С [0, 1] на множество В с [0, 1]. Если А есть В-множество
класса G^(/^), %^2 то В есть В-множество класса G^+1(F^+1), если
I <^ со; если же I ^ а>, то класс множества В совпадает с классом
множества А.
Таким образом, при компактных замкнутых отображениях сохраняется
G8, G"\ G"4"^, а классы G>3, G8(j8, . . ., могут повышаться не более чем на
единицу.
В [И] показано, что компактный замкнутый образ множества типа G8(X
будет G6(y8. Если бы удалось доказать, что это множество будет G8(J, та
вопрос о сохранении класса В-множеств при компактных замкнутых
отображениях решался бы полностью.
При компактных замкнутых отображениях сохраняются не толька
классы В-множеств, начиная с о>, но и классы множеств, доставляемых.
Ss-операциями, в частности, компактные замкнутые образы В-множеств,
Л-множеств, проективных множеств класса п, п > 0 будут соответственна
В-множествами, А -множествами и проективными множествами класса
п [10].
Классы В-множеств, начиная с ш, и классы множеств, доставляемых.
Ss-операциями, сохраняются, как показано в [12], при всех компактных:
многозначных отображениях, изученных в работах Пономарева.
В [10—12] рассматриваются только отображения линейных множеств.
Это ограничение не является существенным, потому что почти все
вопросы, связанные с инвариантностью класса множеств, сводятся к анало-
206

гичным вопросам для линейных множеств. Существуют простые приемы
перенесения широкого класса теорем, доказанных для линейных множеств,
на подмножества сепарабельных метрических пространств. Эти способы
принадлежали научному фольклору Московского университета сороковых
годов и были широко известны. По этой причине во многих работах по
дескриптивной теории множеств ограничивались изучением линейных
множеств. По этой же причине в [11] был изложен лишь один из таких
способов, и при этом очень бегло (на стр. 585). К сожалению, со временем
фольклорный материал стал забываться, а изложение в [11] оказалось
слишком сжатым и некоторым читателям показалось не очень корректным
[32]. Поэтому здесь уместно привести подробное изложение старого
забытого фольклорного материала.
Пусть f:A-+B— непрерывное замкнутое компактное отображение
множества А, А С 1Х на множество В, В а 1', где Ix, I —гильбертовские
кирпичи. Множество А гомеоморфно графику Г ={<(#, уу:х£Ау у £ Ву
*/ — /(#)}, и ортогональная проекция ср множества Г на / будет В. При
изучении инвариантов замкнутых отображений мы можем множество А
заменить множеством Г и отображение / проектированием на ось I .
Приняв это соглашение, мы можем считать, что А С 1Х X 1„ и / есть
ортогональное проектирование А на / и B = f(A). Пусть, кроме того,
/ есть компактное замкнутое отображение. Тогда ортогональное
проектирование / замыкания А на В будет продолжением / на бикомпактное
расширение А множества А.
Теорема [10]. Пусть AcIxXlp, В С /у, f:A-+B = f(A) есть
ортогональное проектирование А на I , где 1Х, 1 — гильбертовские
кирпичи. Тогда отображение f будет компактным и замкнутым тогда и
только тогда, когда /(А—A)f)?(A) = 0.
По теореме П. С. Александрова существует непрерывное отображение ср
подходящего замкнутого множества Dx на А. Положим С = ср"1 (Л). Тогда
ограничение /ср | С отображения /ср на множестве С будет компактным
замкнутым отображением множества С на множество В. Действительно,
если z£B, то /-1(z) и 9~1(/~1(2)) компактны. По предыдущей теореме из
z £ В следует /_1 (z) = f"1 (z), f^1 (z) компактно в силу компактности /.
Множество ср-1 (/_1 (z)) будет компактным как полный прообраз
компактного множества. Таким образом, (/ср)-1 (z) компактно при z £ В. Пусть <£,
S С С замкнуто в С, т. е. (<§ — £) П С = 0, g П С = £. Тогда из ср"1 (А) = С
следует ср (£ — &)П? (О = 0 и ?(& — &) П ^ = 0. В силу компактности /
и по предыдущей теореме ср(£ — §) с А—A, y(S)(ZA и/<р(<? — &) С
С В— В, /cp(£)Ci?, /ср (S —- &) П /? (S) = 0. Допустим, что множество
/ср (<£) не замкнуто в В. В этом случае найдется последовательность хпУ
лг == 1, 2, 3, ... точек из Bf)fy(&), сходящаяся к точке х£В, #(£/<р(<£),
такая, что / (ж) С ? (<£ — <§), Г1 (хп) С <р (S). Отсюда имеем ср-1 (/_1 (х)) f]
Г)С = 0, что противоречит допущению х(*В, ибо В = /срС. Это означает,
что /ср — компактное замкнутое отображение.
Если А будет 5-множеством класса £, то С, как полный прообраз А,
будет 5-множеством класса ЬВ будет компактным замкнутым образом
линейного множества С. Полученное резюмируем в виде следующей
теоремы.
207

Теорема. Всякое В-множество, являющееся компактным замкнутым
образом В-множества А класса £, будет компактным замкнутым образом
подмножества С эвклидовой прямой класса £', %' ^ £.
Теперь перейдем к изучению замкнутых образов подмножеств сепа-
рабельных метрических пространств. В этом случае изучение замкнутых
отображений сводится к изучению компактных замкнутых отображений
с помощью следующей теоремы.
Если непрерывное отображение / : X -> Y=f (X) топологического
пространства X на сепарабельное пространство Y замкнуто, то существуют
множества F1? F2, такие, что Y1f]Y2 = 0, F2 U Y2=Y, З^^Хо и
отображение / if'1 (F2) -> F2 замкнуто и компактно [10].
Удаляя из F счетное множество Yv его полный прообраз f"1 (Fx) из X,
сводим задачу к изучению компактного замкнутого отображения множеств
X— /_1(^i), ^\^2> той же дескриптивной природы, что и FgN^^
Заметим, что по теореме о неповышении классов [33] множество /~1(У1) =
= U {/_1(^)> yd^i) того же класса, что и X.
Теперь читателю очевидно, что все результаты, изложенные выше для
компактных замкнутых отображений, дословно переносятся на
замкнутые отображения.
4. Продолжение отображения на все
пространство. 1. Задача продолжения функции (продолжения
отображения) возникла в анализе [35, 36] и в топологии, где по этой проблематике
получены многочисленные результаты.
Выше были изложены некоторые применения идеи продолжения
отображения в дескриптивной теории множеств. При этом использовались
предложения /* отображения / : А -> В на некоторое множество Л*,
Л* Z) А типа 6?8, обладающие некоторыми определенными свойствами:
гомеоморность (в теореме М. А. Лаврентьева), открытость отображения
(в теореме Мазуркевича), замкнутость отображения (в теореме И. А. Вайн-
штейна). Рассмотрим продолжение отображения / : А -> В множества А
пространства X на все пространство X с сохранением непрерывности.
Если X — нормальное топологическое пространство и А —
замкнутое множество в X, то проблема продолжения / на все X решается
положительно теоремой Тице [15] (иногда называемой теоремой Урысона—
Брауэра [17]).
Если А не замкнуто в X, то для применения теоремы Тице нужно
сначала отображение / продолжить на замыкание Л с сохранением
непрерывности. Этот вопрос о возможности продолжения непрерывного
отображения / : А -> В на замыкание Л области определения был решен
одновременно в работах [34, 22]. Наиболее простое решение дается
следующей теоремой.
Теорема [34]. Пусть А плотно в топологическом пространстве S.
Для того чтобы непрерывное отображение f множества А в компактное
пространство Y имело непрерывное продолжение / : S -> Y на S=A,
необходимо и достаточно, чтобы для любых непересекающихся замкнутых
множеств К, L в Y множества f~x(K)s, f~x(L)s не пересекались.
В [34] она доказана в предположении, что S есть ^-пространство.
208

В. Ионсон [36] показал, что это требование излишнее. Другие
доказательства и усиления этой теоремы даны в работах Величко [18], Энгель-
кинга [14], Гильман и Генриксия [39, 19].
Из этой теоремы следует ряд ранее известных теорем:
1. Пусть X* — произвольное расширение пространства X, а У* —
произвольное бикомпактное расширение нормального пространства У.
Для того чтобы непрерывное отображение f пространства X в У могло
быть продолжено в непрерывное отображение f расширения X* в У*,
необходимо и достаточно, чтобы гомеоморфизм yf имел нормальное
продолжение [20] (Ю. М. Смирнов).
2. Пусть пространство К нормально. Тогда любое непрерывное
отображение f пространства К в нормальное пространство Y можно
распространить в непрерывное отображение /* максимального бикомпактного
расширения (ЗХ в произвольное бикомпактное расширение У*.
3. Пространство (ЗХ может быть непрерывно отображено на всякое
бикомпактное расширение ЪК пространства К так, что все точки X
при этом остаются неподвижными,
4. Два бикомпактных расширения bxR, b2R вполне регулярного
пространства R тогда и только тогда различны, когда в R имеются два
замкнутых множества, замыкания которых в одном расширении пересекаются,
а в другом — нет (Ю. М. Смирнов [19]).
5. Для того чтобы данное вполне регулярное пространство R имело
по меньшей мере два различных бикомпактных расширения, необходимо
и достаточно, чтобы в R нашлась хотя бы одна пара функционально
замкнутых множеств (Ю. М. Смирнов).
6. Пусть А — плотное множество в топологическом пространстве X.
Для того чтобы всякая непрерывная функция, определенная на А, могла
быть продолжена на все X, необходимо и достаточно, чтобы любые два
функционально отделимые в А множества имели непересекающиеся
замыкающие в X (Б. 3. Вулих [21]).
7. Пусть А всюду плотное подмножество пространства % и f —
непрерывное отображение А в компакт У. Отображение f можно продолжить
на X тогда и только тогда, когда для каждого конечного открытого
покрытия vv i = 1, 2, . . ., к пространства Y существует конечное открытое
покрытие и{, & = 1, 2, • • •, I пространства X, такое, что покрытие {и4 Г) А),
i^=l, 2, . . ., I вписано в открытое покрытие {/-1(^)}, & = 1, 2, . . ., А,
т. е. для каждого {и4 Г) А) с /-1 (Vj) найдется /, такое, что {u.f]A}ci
С/-1(^у) (Стинрод и Эйленберг [14]).
8. С помощью последней теоремы упрощается доказательство
следующей теоремы.
Теорема П. С. Александрова. Всякое Т^-пространство
(X, Т) веса $$ есть непрерывный образ замкнутого подмножества
бикомпакта D$(D = {0, 1}) (Ионсон [25], Энгелькинг [14]).
Теорема 1 вместе с теоремой Тице полностью решает вопрос о
продолжении на все пространство X непрерывного отображения / : А -> У
множества А, А С X в компакт У.
5. Продолжение линейных операторов. По
теореме Хана—Банаха всякий линейный ограниченный функционал /0,
209

определенный на линейном подпространстве L линейного нормирования
пространства Е, можно продолжить до линейного функционала / с
сохранением нормы.
Многочисленные применения этой теоремы породили проблему
продолжения линейных операторов. В общем виде она решается
отрицательно. В этом пункте мы рассмотрим один частный случай существования
продолжения оператора. При этом применяется теорема Майкла,
являющаяся в некотором смысле аналогом теоремы Тице для паракомпактных
пространств. Пусть X, Y — топологические пространства 27 = {z/z aY,
z=y^0). Отображение ср:Х->2 называется полунепрерывным снизу, если
для всякого открытого в Y множества U множество <р-1 (U)= {х/х(« X,
<р(#)П Uy^O} открыто в X.
Пусть R— паракомпактное хаусдорфово пространство, С (R)—
линейное пространство всех непрерывных ограниченных вещественных функций
на Л с нормой || /1| == sup | / (р) |.
рек
Определение 1. Линейное подпространство L линейного
нормированного действительного пространства Е называется хорошо
расположенным, если для любых линейных функционалов /, ср на L,
удовлетворяющих условию ||ср — f\\L<^&, существуют линейные функционалы /, <р
на Е такие, что ||/\\Е = \\f||х, ||?\\Е = ||ср||х, ||/ —?|k<£, fv = fv, uv = <?v
при v£L.
Определение 2. Линейный оператор / : L -> С (R) назовем
равностепенно непрерывным, если множество функции {fv : vf^L, \\ v \\ =1}
удовлетворяют условию: для любого & > 0 и любой точки р£ Р найдется
окрестность U точки р, такая, что из q£Up следует \fv (р)—fv (q)\ <<£
для всех v^L, ||у|| = 1.
Теорема. Пусть R — паракомпактное хаусдорфово пространство,
С (R) — нормированное линейное пространство ограниченных веществен-
них непрерывных функций на R, L — хорошо расположенное
подпространство линейного нормированного действительного пространства Е, f : L ->
-> С (R) — линейный непрерывный, равностепенно непрерывный оператор.
Тогда существует линейный непрерывный оператор F на Е,
удовлетворяющий условиям: fv = fv при v^L, || / \\Е = \\ f \\L.
Легко показать, что всякое подпространство эвклидова пространства
хорошо расположено.
Следствие 1. Всякий линейный, непрерывный равностепенно
непрерывный оператор / : L -> CCR, отображающий линейное
подпространство L эвклидова пространства Е в CCR, где R паракомпактно,
можно продолжить на все пространство Е с сохранением нормы.
Следствие 2. Всякий вполне непрерывный оператор / : L-> CR,
отображающий линейное подпространство L гильбертова пространства
Е в С (R), можно продолжить на все пространство Е с сохранением нормы.
6. Строение несвязных множеств. Интересовавший
топологов вопрос о мощности множества связных компонент 4-множества
[40] был решен привлечением методов дескриптивной теории множеств:
П. С. Новиков [24] доказал следующую теорему.
210

Теорема П. С. Новикова. Мощность множества связных
компонент произвольного А-множества либо не более чем счетная, либо
континуум.
В доказательстве этого факта существенную роль играют методы
дескриптивной теории множеств, в частности, теорема Н. Н. Лузина
о стационарности последовательностей FQ и понятие а-квазикомпоненты
несвязных множеств, введенное П. С. Новиковым, и являющееся
обобщением понятия 1-квазикомпоненты, введенного Хаусдорфом.
Пусть дано несвязное пространство X. 1-квазикомпонента К'х точки х
в пространстве X определяется как пересечение всех открыто-замкнутых
в К множеств, содержащих х. Компонента точки х, т. е. максимальное
замкнутое связное множество, содержащее х, содержится в
^квазикомпоненте К'х и совпадает с ней тогда и только тогда, когда К'х связна.
Квазикомпонента ранга а > 1 определяется индуктивно. Допустим,
что для всех а < [3 определена а-квазикомпонента Кх точки х, и определим
^-квазикомпоненту Кх. Возможны два случая.
1) [В — число первого рода. Если KX~Y связное множество, то по
определению КХ = КХ~1. Если Кх~1 несвязное множество, то 1-квазикомпонента
точки х в К называется (3-квазикомпонентой точки х в К и обозначается
через Кх.
2) [В — число второго рода. Тогда получаем Кх= f\Kx, a<CP-
П. С. Новиков поставил проблему о мощности множества а-квази-
компонент. Этой проблеме посвящены работы [26—30], выполненные
под руководством П. С. Новикова.
Квазикомпоненты Кх замкнуты в X, а-квазикомпоненты одного ранга
двух различных точек либо совпадают, либо не пересекаются так, что
можно говорить о разбиении пространства X на а-квазикомпоненты и это
разбиение, вообще говоря, более крупно, чем разбиение на компоненты.
Пусть К* — множества всех квазикомпонент ранга, не
превосходящего а. Предыдущая теорема П. С. Новикова о мощности компонент
в [26, 27] переносится на а-квазикомпоненты:
1) если К есть 4-множество, то К* при а < g или имеет мощность
континуума, или не более чем счетно;
2) из существования эффективного множества, имеющего ^ а-ква-
зикомпонент, следует существование эффективного множества из $х точек.
В [26, 27] приведены простые примеры плоских множеств, имеющих
а-квазикомпоненту для любого фиксированного а, а < g и построен
пример Gg-множества, лежащего в трехмерном кубе и имеющего
а-квазикомпоненту для любого а, а < д.
П. С. Новиков высказал гипотезу о существовании плоского множества,
имеющего а-компоненту для любого а, а < д. Долгое время она
оставалась открытой. Недавно А. Лелек (30) построил такое множество и дока^
зал гипотезу П. С. Новикова.
Каждой точке х£% соответствует убывающая последовательность
tf;D^=>...2^3...=>^2... (1)
Если X имеет счетную базу, то найдется р<[£> такое, что КЛ-=.К^
при а^> В.
211

Наименьшее такое число [В назовем индексом точки х, Ind x. Функция
Ind я является топологическим инвариантом X. Первое число у(Х),
превосходящее число Ind х, х £ X, назовем индексом несвязности множества X.
Очевидно, у (X) ^ £. Если X — плоское множество, X' — его дополнение,
<р (Хг) — равномерно непрерывный взаимно-однозначный образ
множества X', то
т(*)=т(Гт(«т
ЛИТЕРАТУРА
1. А. А. Ляпунов, П. С. Новиков. Дескриптивная теория множеств. Математика
в СССР за тридцать лет. М.—Л., Гос. изд. техн.-теорет. лит., 1948, стр. 243—
255.
2. М. А. Лаврентьев. Sur la recherche des ensembles homeomorphes. С. г. Acad. sci.
Paris, 178, 1924, 187—190.
3. M. А. Лаврентьев. Contribution a la theorie des ensembles homeomorphes. Fund.
Math., 6, 1924.
4. К. Куратовский. Топология. 1. «Мир», 1966, стр. 439—442.
5. Ю. С. Очан. Теория операций над множествами. УМН, 10 : 3 (65), 1955, 71—128.
6. F. Hausdorf. Uber innere Abbildungen. Fund. Math., 23, 1934, 279—291.
7. Л. В. Келдыш. Об открытых отображениях Л-множеств. Докл. АН, 49, 1945,
646—648.
8. А. Д. Тайманов. Об открытых образцах борелевских множеств. Матем. сб., 37 (79),
1955, 293—300.
9. А. Д. Тайманов. Продолжение отображений компактов. Изв. ВУЗов, Математика,
3, 1958, 198—202.
10. А. Д. Тайманов. О замкнутых отображениях. I. Матем. сб. 36 (18), 1955, 349—352.
41. А. Д. Тайманов. О замкнутых отображениях. II. Матем. сб., 52 : 1, 1960, 79—588.
12. А. Д. Тайманов. Замкнутые многозначные образы /^-множеств. Труды Матем. ин-та
Груз. ССР, 27, 1960, 53—56.
13. И. А. Вайнштейн. О замкнутых отображениях. Уч. зап. МГУ, 1955; Математика,
1952, 3—53.
14. В. Engelking. Outline of general topology. 1968.
15. H. Tietze. Uber Funktionen, die auf einer abgeschlossenen Menge stetig sind. J. Math.,
145, 1915, 9-14.
16. S. Mazurkiewicz. Sur les transiormations interiers. Fund. Math., 19, 1932.
17. M. M. Постников. Введение в теорию Морса. «Наука», 1971.
18. Н. В. Величко. О продолжении отображений топологических пространств. Сиб.
матем. ж. 6:1, 1965, 64—69.
19. С. Мрувка. Замечание к работе П. С. Александрова «О двух теоремах Ю.
Смирнова». Fund. Math., 1956, t. XLIII, № 3.
20. П. С. Александров. О счетно-кратных открытых отображениях. Докл. АН, 4,
1936, 283—288.
21. Б. 3. В у лих. О распространении непрерывных функций в топологических
пространствах. Матем. сб., 30 (72), 1952, 167—170.
22. Ю. М. Смирнов. О системах открытых множеств в топологических пространствах.
УМН, 6, вып. 4 (44), 1951, 204—206.
23. Е. Michael. Continuous selections, I —III. Ann. Math., 63, 1956, 361—382; 64, 1956,
562—580; 65, 1957, 375-390.
24. П. С. Новиков. О мощности множества связных компонент Л-множеств.
Докл. АН, 56, 1947, 787—790.
25. W. В. Johnson. On continuous immages of Cantor spaces. Amer. Math. Monthly, 75,
№ 8, 869-871.
20. А. Д. Тайманов. О квазикомпонентах несвязных множеств, I. Матем. сб., 25 (67),
1949, 367-380.
212

27. А. Д. Тайманов. О квазикомпонентах несвязных множеств, II. Матем. сб., 30 (70),
1952, 465—482.
28. А. Д. Тайманов. О квазикомпонентах несвязных множеств. УМН, 8 : 2 (54), 1953,
162—163.
29. A. Lelek. On quasicomponents. Proc. Prague Topological Sympos., 2, 1966, 239—240.
30. A. Lelek. On the topology of curves 1. Fund. Math., 67, 1970, 359—367.
31. M. А. Лаврентьев. Sur les sous-classes de la classification de M. Baire. G. r. Acad,
sci. Paris, 180, 1925, 111—114.
32. M. M. Чобан. Многозначные отображения и борелевские множества, I. Труды
Моск. матем. об-ва, 22.
33. Н. Н. Лузин. Лекции об аналитических множествах и их приложениях. Гос. изд.
техн.-теорет. лит., 1953.
34. А. Д. Тайманов. О распространениях непрерывных отображений топологических
пространств. Матем. сб., 31 (73), № 2, 1952, 459—463.
35. Г. М. Фихтенголъц. Курс дифференциального и интегрального исчисления, I. М.у
«Наука», 1966.
36. Л. В. Канторович, Г. П. Акилов. Функциональный анализ в нормированных
пространствах. М., «Физматгиз», 1959, 1—684.
37. А. Д. Тайманов. Продолжение монотонных отображений биокомпактов.
Докл. АН СССР, 135 : 2, 1960, 247—248.
38. Е. А. Щеголъков. Элементы теории /^-множеств. УМН, 5 : 5 (39), 14—44.
39. L. Ctilman, M. Jezison. Rings of continuous Functions, 1960.
40. Л. Д. Кудрявцев, А. М. Роднянский. О мощности системы компонент множеств
типа Fa. Докл. АН СССР, 52, 1946, 3-6.

А. Д. ТАЙМАНОВ
О ПРОДОЛЖЕНИИ ЛИНЕЙНЫХ ОПЕРАТОРОВ
Многочисленные применения теоремы Хана—Банаха о продолжении
линейных функционалов породили проблему продолжения линейных
операторов [1, 2, 3, 7]. При изучении этой проблемы в общем виде мы
имеем дело с объектами четырех видов:
A) оператор / и его свойство Р, которое надо сохранить при
продолжении /;
Б) область L определения оператора /;
B) линейное пространство Е, La Е, на которое надо продолжить /;
Г) пространство У, содержащее множество значений оператора / и его
продолжения /.
В теореме Хана—Банаха предполагается, что
А) оператор / является линейным и непрерывным; Р — есть
конъюнкция непрерывности и равенства;
Б, В) L, Е — линейные нормированные пространства;
Г) Y — есть множество вещественных чисел, и утверждается, что всякий
линейный оператор / : L -> Y можно продолжить на Е с сохранением
свойства Р, т. е. непрерывности и нормы.
В [1 ] введен класс $*х линейных пространств таких, что всякий
линейный оператор / : L -> Y можно продолжить на Е, Е Z) L с сохранением
непрерывности и нормы, и показано существование пространств, не
лежащих в классе $*х.
В [3] показано, что класс ^й1 совпадает с классом линейных пространств,
изометрических пространству С (S) непрерывных функций, определенных
на вполне несвязном компакте S.
Меняя ограничения, накладываемые на объекты А, Б, В, Г, мы
получаем разные задачи о продолжении операторов. В данной заметке мы,
продолжая традицию, сложившуюся в литературе, рассматриваем
следующий случай:
Ах) оператор / — непрерывный и линейный; Р есть конъюнкция
непрерывности, линейности и равенства ||/|| =d.
Б1? Вх) L, Е — линейные нормированные пространства.
Гх) Y есть пространство С (R) всех непрерывных ограниченных
функций на паракомпактном хаусдорфовом пространстве R.
Чтобы гарантировать существование продолжения / оператора /
в условиях Ах, Бх, Вх, Гх, нужно наложить новые ограничения.
214

Определение1. Семейство вещественных функций F, F С С (R)
назовем равностепенно непрерывным, если для любого 8>0и для любой
точки р £ R найдется окрестность ир точки р, такая, что для любых
/. ?t / G F, Я. G ир имеет место |/ (р)— / (д)\ < е.
Определение 2. Назовем ограниченный оператор / : L -> С (R)
компактным, если образ {/ (и) : и £ L, ||y=l||} единичной сферы в L
является равностепенно непрерывным семейством.
Компактные операторы изучены в монографии [7], где доказано, что
любой компактный оператор / можно продолжить так, чтобы
непрерывность сохранялась, а норма увеличивалась не более чем на наперед
заданное число е > 0, т. е. что существует оператор /, удовлетворяющий
условиям
/2/, М,<1/1 + в.
Мы приводим простое доказательство этой теоремы. Описание класса К
компактных операторов, допускающих непрерывное продолжение с
сохранением нормы, пока еще не получено. Поэтому представляет интерес
и теорема 1, описывающая некоторые достаточные условия того, что
оператор лежит в классе К. Предварительно сформулируем
Определение 3. Пусть / : L -> С (R) — линейный непрерывный
оператор, Lc£. Каждой точке р £ R ставим в соответствие линейный
функционал / , определенный следующими условиями:
fp(v) = fv(p); peR, v£L. (*)
Пусть для любого е > 0 и любой точки р £ R найдется окрестность ир,
такая, что из q£up и \\fp(v) — / (v)\\L<е следует существование
линейных функционалов / , / на Е, удовлетворяющих условиям
В этом случае скажем, что L хорошо расположено в i? относительно /.
Теорема 1. Пусть L, E, L С Е — линейные нормированные про-
странства, f : L -> С (R) — компактный непрерывный оператор и L
хорошо расположено в Е относительно /. Тогда существует непрерывный
линейный оператор f на Е, такой, что
/3/, ||/||я = ||/||г
Доказательство. По теореме Хана—Банаха существует линейный
функционал fp:E-+D, являющийся продолжением fp на Е и ||/||# = ||/ [д.
Обозначим через F множество всех линейных ограниченных
функционалов / , определенных на Е и удовлетворяющих условию
1/Д = 1/Д. /,=>/,-
Множество F выпукло в сопряженном пространстве Е* всех линейных
функционалов на Е.
Пусть fpf ?p£Fp и ф = ос/р + р/;, <*>0, р>0, а + р = 1. По
определению F линейные функционалы / , /' являются продолжениями / .
Поэтому при v £ L имеем
fP{v) = fp{v), rp(v) = fp(v),
Ф (*) = «/, (v) + P/; (v) = «/, (v) + Р/р (v) = /, (v),
т. е. f £Fp.
215

Множество F замкнуто в Е\ Пусть ?п£Е , ?£Е*, / ££*, / D /
||/w-/|| = sup !'*(*)-/(*)! _^о
при п-^со. При v£L имеем fn(v) = fp(v) для всех ra>0. Тогда
и Л/я —/|l-*° пРи ^-^oo, ?n(v) = fp(v)=f{v) при £;££, т. е. / D / и
l/L>ll/lL- Если Допустить 1/^ = 11/11^ + 8, 8>0, то в Е найдется v,
\\'v\\=l |/ (v)\ ^||/||х + ^/2. Из ||/я — /|->0 следует, что найдется такое
п^> О, что
1Д-/К8/4, 1/.W-/<*>)К8/4,
11ДМ1|>11/Их + 8Я
что противоречит допущению jfn\\E = ||/||х, /я£^ и /G^V
Теперь определим многозначное отображение F пространства R в
пространство #* следующим образом: точке р £ /? ставим в соответствие
выпуклое замкнутое множество F , 7? (р) = F . Покажем, что отображение
F:R-*2 полунепрерывно снизу, т. е. для каждого открытого
множества и, и С Е* множество F'1 (и) = {р/р £ R, F (p) f] и =^= 0} открыто в R.
Пусть /^Пи, ^= U {Fp(p£R)y
S{fr в) = {?/?бЛ II ?-/,!*<«}.
Выберем окрестность [7 точки р так, чтобы для любой функции fv9
v(*L, I v || = 1 из включения q£U следовало неравенство | /у (р) —
— /у(#)10/2 при всех £>££, ||г;||=1.
В силу компактности / такая окрестность U существует.
Тогда || fv (р) - fv (q) || < е/2 и || /р (i;) - /ff (v) \\L < e/2. Пространство L
хорошо расположено в Е относительно /. Поэтому существуют линейные
функционалы /р, /д, такие, что /р Э/„, /, 3 /,, ||/ДН|/Д> II/*Л* = i/*L
|| fp— fq К e/2 на ZL Если выбирать е "> 0 так, чтобы S (fp, e)(Zu, то
/ G ^ * (м)> т- е- F'1 (и) открытое множество и полунепрерывность
отображения F доказана.
Теперь применим следующую теорему Майкла [4]. Топологическое
/^-пространство R будет паракомпактным хаусдорфовым тогда и только
тогда, когда для каждого банахового пространства S и каждого
полунепрерывного снизу отображения F пространства R в множество <?£ (S) всех
выпуклых замкнутых подмножеств существует непрерывное отображение
F:R-+S, такое, что F(p)£F(p).
По этой теореме найдется непрерывное отображение F : R-+ Е*, такое,
что F (p)£F (р). Полагая Ф (р, v) = F(p)(v) при p£R, v£E, получим
вещественную функцию, определенную на R X Е%
Определим оператор / : Е -> С (R) равенством
/* = Ф(Р, v) = F(p)(v), p£R.
Если v£L, то /|; = Ф(р, v) = F(p)(v) = ?p(v) = fv(p) = f(v), т. е. /э/.
Очевидно, /—линейный оператор. Покажем непрерывность /. Функционал /
216

непрерывен на L и, следовательно, ограничен. При каждом р £ R
функционал / есть продолжение функционала / на пространство Е с
сохранением нормы, поэтому при каждом р £ R функционал / ограничен одной
константой ||/||, не зависящей от р. Отсюда
ИМ|= sup |Ф(Р, i;)| = sup |Мр)|<ИЯ1я.
рея, N1=1 li*ll=i
Следовательно, оператор /: Е -> С (R) ограничен. Но в Е выполнена
первая аксиома счетности, поэтому (5) оператор непрерывен и || / \\Е = || / \\L.
Теорема доказана.
Следствие 1. Пусть R — паракомпактное хаусдорфово пространство,
С (R) — нормированное линейное пространство всех ограниченных
непрерывных вещественных функций на Л, L — подпространство линейного
нормированного пространства Е. Пусть / : L -> С (R) — линейный
непрерывный оператор, такой, что для любого u^L, ||y||=l, функция f(u),
определенная на R, есть константа, т. е. V Vff(p^i?, q £ R -> / (и) (р) =
= f(v)(q)). Тогда существует линейный непрерывный оператор / на Е>
удовлетворяющий условиям fv = fv при v £ L
ii/««=1/11,.
Доказательство. В этом случае оператор / компактен и при
любых р> q (+ R fp (v)=fq (^) = const. Поэтому пространство!, хорошо
расположено в Е относительно оператора /.
Следствие 2. Если R = {a)J т. е. R — пространство из одной
точки, то всякий линейный оператор / : L -> С (R), определенный на L,
L С Е, продолжается на Е с сохранением нормы и непрерывности.
Доказательство. Б этом случае оператор L компактен и L
хорошо расположено в Е относительно /. Очевидно, С (R) изометрично
вещественной прямой и мы получаем теорему Хана—Банаха.
Таким образом, теорема 1 является обобщением теоремы
Хана—Банаха о продолжении функционалов.
Определение 4. Пусть L, Е, R, /, С (R), как в определении 3.
Мы скажем, что L хорошо расположено в Е, если L хорошо расположено
в Е относительно любого непрерывного линейного оператора /,
отображающего L в С (R).
Подпространство L, L С Е называется ретрактом, если существует
линейное непрерывное отображение (проектор) / с нормой ||/|| = 1
пространства Е на L, оставляющее все точки из L неподвижными, т. е. / (х) =
=х, если х £ L. Каждое подпространство гильбертова пространства
есть ретракт. Если L есть ретракт в Е, то L хорошо расположено
относительно любого паракомпактного хаусдорфова пространства R.
Действительно, если / : Е -> L — проектор и срх, ср2 — линейные
функционалы на L, ||<pi—<p2|k ^ ®' то ФУН1агии Ti/W» Тг/И»
определенные на Е, будут продолжениями функционалов <рх, ср2 на Е и ||срх/ (х) —
""Та/ 0*011 < е- Отсюда имеем
Следствие 3. Если L — ретракт в Е и / : L -> С (R) —
компактный непрерывный линейный оператор, то существует непрерывное
продолжение / оператора / на Е, такое, что ||/||я=||/||£.
217

Следствие 4. Если /i, . . ., /я — линейные непрерывные
функционалы, определенные на ретракте L, L £ Е, удовлетворяющие системе
равенств или неравенств
то существуют линейные непрерывные функционалы Д., & = 1, 2, . . ., &
на i?, такие, что
/<=>/„ \?Х = Ш» Фу (Л /J> / = 1,2,...,Л.
Теперь приведем простое доказательство теоремы Д. Линденштрауса.
Многозначное отображение / : R -> В, f (р) с В называется
полунепрерывным снизу, если для любого открытого в В непустого множества и
множество
ri(«)=wwn^o}
открыто в R.
Лемма 1. Пусть f:R->B — многозначное полунепрерывное снизу
отображение пространства R в банахово^пространство В. Тогда
отображение ср, определяемое равенством у(р)=? (р), для всех р £ R будет
полунепрерывным снизу.
Доказательство. Пусть и — открытое множество в В, v —
открытое множество в R и
*>С{р//(р)Пи=^0}.
Тогда из / (р) С / (р) следует, что
{Р//(Р)П«^0}.
Лемма 2. Пусть даны L, Е, /, ср, /, такие, что
1) LdE,
2) <Р> / — линейные непрерывные функционалы на L и
!/-?||£<*>
3) / — непрерывное продолжение f на Е и || /||в = || / Ц^.. Тогда
существует линейный непрерывный функционал ф на Е, такой, что
1) Ф=><р,
2)||/к1|?и<||/||+е, i/-a<«-
Доказательство, Пусть <р, /, / удовлетворяют условиям леммы и
ф=?-/, |<и£<«.
По теореме Хана—Банаха существует продолжение ф функционала ф и
||ф||ь = ||ф||я<Се. Функционал $-(-/ = у будет продолжением функционала
<р и I?KI?I + l/KI/ll + e и 11/-?11 = 11<Йв<е-
Теорема 2. Пусть L, E, L с Е — линейные нормированные
пространства и f :L-+C (R) — компактный оператор. Тогда для любого е >0
существует непрерывное продолжение f оператора f на Е, такое, что
l|/ll£<l|/L<«/ll£ + e.
Доказательство, Фиксируем точку p£R и рассмотрим линейный
функционал fp:L-+ D, определяемый условиями / (v) = /(и)(р) при v£L,
218

/? = (—oo, -f-oo) f (v)£C(R). По теореме Хана—Банаха существует
линейный функционал ?p:E-+D, являющийся продолжением / на Е, и
ll-Mtf —D-^lli- Через Fp обозначим множество всех линейных
ограниченных функционалов f р, определенных на Е и удовлетворяющих условию
/,=>/,, |/Д<11/Д + в/4.
Множество F выпукло в сопряженном пространстве Е* всех линейных
функционалов на Е.
Определим многозначное отображение Ф пространства R в
пространство Е* следующим образом: точке р £ R ставим в соответствие
выпуклое множество F ,
Покажем, что отображение Ф полунепрерывно снизу. Пусть и —
произвольное открытое множество в Е* и fp£F0f)u, где F0 = \J{Fpjp £R).
Пусть 8^>0 таково, что
fl/J + 3<ll/pI + */4.
Выберем §!>0 так, чтобы Sj^S и
s(fp, h) = {?l?ef0,h-fp\\E<\}
лежало в F0f]u. Выберем окрестность и точки р так, чтобы для любой
функции fv, v£ L, I у ||= 1 из включения q£up следовало неравенство
I fv (Р) — fv (я) | <С V^- В силу компактности оператора / такая
окрестность всегда существует.
Если q£u при всех v£L, ||у|| = 1 |/^(р)—fv(q)| <8х/2 и,
следовательно, \fp(v) — fq(v)\<C\№ ПРИ убА 1М1~1- Это означает, что
По лемме 2 существует продолжение / функционала / такое, что
\fp — /J<V2- Очевидно, ?q£S(fp, 8j) и цйсФ"!(4 Это означает, что
отображение Ф полунепрерывно снизу.
Теперь определим новое отображение х : R -> 2Е* следующим образом:
х (р) = Ф(р), где Ф(р) есть замыкание множества Ф (р) в Е*.
Из выпуклости множества F (р) следует выпуклость F (р). По лемме 1
отображение х (р) полунепрерывно снизу и х (р) замкнуто и выпукло в Е*.
По теореме Майкла (4) существует однозначное непрерывное
отображение \:R-+E*, удовлетворяющее условию
4p)G*(p).
Полагая Ф (р, v) = X (р) (у) при p£R, v(*E, получим вещественную
функцию, определенную на RXE. Определим оператор /: Е-+ С (R) равенством
?и = Ф(р,и)=1(р)(и), p£R.
Если v£L, то ?и = Ф(р, v) = \(p)(v) = fp(v)=fv(p), т. е. / 3 /.
Очевидно, / есть линейный оператор.
Докажем непрерывность /. Функционал / непрерывен на L и,
следовательно, ограничен. При каждом р £ R функционал fp есть продолжение
функционала fp на пространство Е с нормой Ц/^ ||<С||/Я| + е/4. Поэтому
219

при каждом p£R функционал fp ограничен одной константой ||/|| + е/4,
не зависящей от точки р. Отсюда
I/(*>)! = sup |0(p,i;)|=sup|/i;(p)|<||/|, + e/4.
Прея, II»и 11.1И
Следовательно, j:E-+C(R) ограничен, непрерывен и \\/\\Е <C\\f\\L +е,
и т. д.
Замечания. 1) Пример компактного непрерывного оператора,
продолжение которого не будет компактным, можно извлечь из работы [6].
2) Не удалось выяснить, для каких пар (L, Е), где Е — линейное
нормирование пространство и L — его линейное подпространство,
имеет место утверждение, аналогичное следствию 4.
3) Не удалось показать, что хорошее расположение L в Е относительно
/ является необходимым условием возможности продолжения / на Е
с сохранением нормы и непрерывности в классе компактных операторов.
ЛИТЕРАТУРА
1. Л. В. Канторович, Г. П. Акилов. Функциональный анализ в нормированных
пространствах. М., Физматгиз, 1959.
2. Л. В. Канторович, Б. 3. Вулих, А. Г. Пинскер. Функциональный анализ в
полуупорядоченных пространствах. Гос. изд. техн.-теорет. лит., 1950.
3. В. М. Дей. Нормированные линейные пространства, 1961.
4. /. Nagata. Modern general topology, 1968.
5. A. H. Колмогоров, С. В. Фомин. Элементы теории функций и функционального
анализа. М., «Наука», 1968.
6. Ю. А. Шашкин. О сходимости нерастягивающих операторов. Mathematica, 11 (34),
2, 1969, 355—360.
7. /. Lindenstrauss. Extension of compact operators. Mem. Amer. Math. Soc, 48, 1964.

Б. А. ТРАХТЕНБРОТ
ЧАСТОТНЫЕ ВЫЧИСЛЕНИЯ
В самых общих чертах проблема частотного вычисления функции *
/ (х) заключается в следующем.
Пусть задана последовательность значений аргумента:
J z::= Х^, Х<£, . . ., Хк, . . .
Требуется найти алгоритм, который вычисляет последовательность
/'(*,), f'(x2),...,f'{xk),...,
где числа /' (хк) не обязаны, вообще говоря, совпадать с истинными
значениями / (хк) (т. е. в некоторых хк результат вычисления может быть
ошибочен), однако доля ошибок не должна превышать некоторого заранее
указанного допустимого уровня.
Точные определения даны в § 1, но уже теперь из сказанного ясно, что
речь идет об алгоритмах, которые в естественном для дискретных функций
смысле осуществляют приближенное вычисление функции. Поиск
приближенного алгоритма может стимулироваться двумя обстоятельствами.
Во-первых, сама функция / может оказаться нерекурсивной, т. е. для нее
может не существовать алгоритма, вычисляющего ее точные значения.
С другой стороны, даже если / рекурсивна, может оказаться, что любой
вычисляющий ее алгоритм слишком сложно реализуем, между тем можно
надеяться обнаружить такой просто реализуемый алгоритм, который,
хотя и не точно, но с удовлетворительной степенью приближения
вычисляет значения / на тех или иных последовательностях /. Что же касается
приближения, то оно, как об этом свидетельствует и сам термин «частотное
вычисление», характеризуется частотой 2 совпадения вычисленных
значений с истинными значениями функций.
Частотный подход к оценке качества приближения естественным
образом связан с проблемой построения индивидуальных двоичных
последовательностей, случайных по Мизесу или в смысле позднейших
уточнений, предложенных А. Н. Колмогоровым и Д. Лавлэндом; такие
последовательности, следуя Мизесу, обычно называют коллективами.
В данной статье сделана попытка изложить в обзорном порядке и с
единой точки зрения некоторые результаты, принадлежащие различным
1 Рассматриваются лишь функции, определенные на множестве iV={0, 1, 2,. . .} и
принимающие значения из этого множества.
2 Под частотой всюду подразумевается относительная частота.
221

авторам и относящиеся к частотным вычислениям и к построению
коллективов; это позволяет выявить и некоторые естественным образом
напрашивающиеся задачи. Такое изложение было осуществлено мною
в лекциях, посвященных более общей теме «Алгоритмы и случайность»
и прочитанных в Новосибирском университете (1969—1970 гг.).
Впервые темой «Алгоритмы и случайность» я заинтересовался еще
в пятидесятые годы под влиянием бесед с моим учителем Петром
Сергеевичем Новиковым об алгоритмическом моделировании случайного, о
построении надежных систем из ненадежных элементов и др. С тех пор
в разное время и по разным поводам я возвращался к этой теме, которой
занялись и другие участники семинара «Алгоритмы и автоматы»: В. Н.
Агафонов, Я. М. Барздинь, А. Д. Коршунов, Р. В. Фрейвалд. Из результатов,
вошедших в данный обзор, хронологически первыми являются теоремы
1, 2, 3, 5, впервые опубликованные в 1963 г. ([1] и [2]), а самыми
свежими — не публиковавшиеся ранее результаты Р. В. Фрейвалда, а также
результаты выполненной под его руководством дипломной работы
Е. Б. Кинбера (1970 г.).
§ 1. Основные понятия. Предварительные замечания
Как известно, хэммингова метрика в гг-мерном двоичном пространстве,
т. е. во множестве всех двоичных последовательностей у длины и,
определяется так: г (ух, у2) = числу позиций, в которых ух и у2 не совпадают.
Нормировкой функции г получается частотное отклонение р:
р(Ть Ъ) = г (уь у2)М,
которым удобно характеризовать отклонение и для пары G, D
бесконечных двоичных последовательностей. Пусть рп (G, Z))=p(y, В), где у,
S — начальные куски длины п последовательностей G, D соответственно.
Пусть, далее, при п-^со
p(G, D) = limp„(G, D), p(G, D) = lh^pn(G, D).
Числа p (G, Д) и p (G, D) назовем соответственно нижним и верхним
отклонениями G от D.
Очевидно,
0<p(G, Z))<p(G, D)<1,
причем для любого р из отрезка [р (G, Z)), p(G, D)\ найдется
последовательность пг < п2 *С • • • <С пк <С • • •» по которой
l\mpUk(G,D) = p.
В частности, если р (G, D) = p (G, D), будем писать просто р (G, D).
Наряду с ри, р, р, характеризующими отклонение G от Z), можно
пользоваться и величинами vn = 1 — pw, v = 1 — р, v = 1 — р, характеризующими
соответствующие частоты совпадения.
Выборки. Выборкой мы называем любую конечную или
бесконечную последовательность J неповторяющихся натуральных чисел:
7 = 1(1), i(2),..,,i(k), ...
222

Для обозначения классов выборок воспользуемся символом Q,
снабженным подходящими индексами и метками, например: Qn — класс всех
выборок длины тг, Q^n — класс всех выборок длины не меньше ?г (включая
и бесконечные выборки), Q^ — класс всех бесконечных выборок, £2эфф —
класс всех эффективных выборок, т. е. всех рекурсивных функций, и т. п.
Операторы, действующие на выборки. Через Т
(возможно, с индексами) обозначаем оператор, определенный на
некотором классе выборок Q и преобразующий каждую / £ Q в некоторую
двоичную последовательность TJ, имеющую ту же длину, что и /. В
дальнейшем нас будут интересовать лишь эффективные операторы Г,
действующие на данную выборку /, т. е. такие операторы, которые осуществляют
эффективное сведение последовательнсти TJ к последовательности /.
Эффективный оператор можно задавать посредством условного алгоритма
9W, например в виде двухленточной машины Тьюринга. Если на одной
ленте записана выборка /, то, начиная работу на второй, первоначально
пустой ленте, машина 90£ записывает на ней следующие друг за другом
элементы последовательности TJ. В таком случае последовательность
TJ будем обозначать также через 9W/.
Заметим, что каждая бесконечная двоичная последовательность /
индуцирует оператор Tf, определенный на множестве всех выборок:
Г/= /(*(!))> /(*(2)),...,/(*(&)), ...
Вместо записи TfJ будем пользоваться более простой записью //. В
частности, если / — эффективная последовательность (общерекурсивный
предикат), то Т^ — эффективный оператор, определенный на всех выборках.
Частотная аппроксимация на выборках.
Бесконечные двоичные последовательности будем называть для краткости
предикатами; там, где это не вызывает недоразумений, мы не будем
отличать предикат Г от множества, характеристической функцией которого
он является, и будем переносить на Г терминологию, применяемую к
соответствующему множеству, например: рекурсивно-перечислимый предикат,
креативный предикат, максимальный предикат и т. п.
Пусть заданы предикат Г, выборка / и оператор Г, действующий на /;
тогда величины р (IV, TJ) и р (IV, TJ) (соответственно — v (IV, TJ)
и v (IV, TJ)) представляют определенную информацию о том, насколько
хорошо оператор Т «угадывает» значения предиката Г вдоль выборки /.
Иногда полезно выделить тот случай, когда оператор Т преобразует
всякую выборку в последовательность, сплошь состоящую из единиц или
сплошь состоящую из нулей. В таких случаях будем писать просто р (IV, 1),
р (IV, 0) и т. п. Очевидно, эти величины характеризуют частоту, с которой
встречаются единицы (соответственно нули) в последовательности
Г(*(1)), Г(*(2)), ...
Зафиксировав е^>0, Q и оператор Г, можно рассматривать,
например, класс К(Т, 2, s) предикатов Г, удовлетворяющих условию
VJ£Q:p(TJ, Г/)<е (1)
или, что то же самое,
VJ£Q:v(TJ, Z7)>1—е. (V)
223

В том случае, когда оператор задается алгоритмом9Л, будет употребляться
также запись вида К (JR, Q, е) для обозначения класса предикатов,
вычисляемых оператором Т (т. е. алгоритмом 9Л) вдоль выборок из Q с
верхней частотой ошибки, не превышающей е. При фиксированных е > О
и Q определим класс К (Q, s) предикатов, частотно вычислимых вдоль
выборки из Qc верхней частотой ошибки, не превышающей е:
Г («К (2, е)=3 эффективный оператор Т V/£2:
df
р(Г/, 27)<e. (2)
Если в только что приведенном определении заменить р на р, то получится
определение класса К (Q, е). В то время как для Г из К (Q, е) неравенство
рп (Г/, TJ) < е гарантируется при всех достаточно больших п, для Г
из К (Q, е) оно гарантируется только для сколь угодно больших п.
Поэтому К (Q, е) Z) К (й, е). Другие возможные ослабления концепции
частотной вычислимости могут быть получены за счет отказа от требования
равномерности по Т, выраженного в кванторной приставке формулы (2)
или аналогичной формулы, определяющей К (Q, е). Именно, в
неравномерных вариантах требуется лишь, чтобы для каждой выборки / из й
существовал эффективный оператор Г, гарантирующий неравенство
р (Г/, TJ) или неравенство р (Г/, TJ). Соответствующие классы
обозначим k (Q, е) и Ь (Q, е). Очевидно, Ь (Й, e)D^ (Q, е). С другой стороны,
любой из классов типа К, К, к, k при расширении Q или при уменьшении
s может разве что сузиться. Представляет интерес сравнение классов
в нетривиальных ситуациях, например, классов К (Q, е) и к (Q, s) и т. п.
Очевидно, что при любых Qhs>0 каждый из классов К, К, к, Ь
содержит все эффективные предикаты; поэтому сравнение классов нацелено
на выяснение того, какие неэффективные предикаты частотно вычислимы
при той или иной концепции частотной вычислимости. Прежде чем
перейти к более детальному рассмотрению этих вопросов, полезно заметить,
что некоторые факты общего характера можно легко установить
посредством довольно простых диагональных конструкций. Эти конструкции
гарантируют существование предикатов с определенными свойствами
и осуществимы благодаря тому, что рассматриваются счетные классы
выборок или счетные семейства операторов; при этом специфика самих
операторов и выборок не играет никакой роли. Сейчас мы приведем
примеры утверждений, устанавливаемых таким образом, и прокомментируем
их с точки зрения широты классов К, к. В утверждениях А—Б—В под
выборками подразумеваются всюду бесконечные выборки.
A. Для всякой выборки / и всякого счетного семейства тс
операторов существует Г:
VT£n:p(TJ, 7V) = 1.
Б. Для всякого р (О ^ р ^ 1) и всякого счетного класса 2 существует Г:
У/£2:р(Г/, 1) = р.
B. Для всякого счетного класса 2 монотонных выборок существует
выборка-перестановка /0 и существует Г:
[V/eQ:p(IY, 1) = 0]&р(Г/0, 1) = 1.
224

Более того, в каждом из случаев А—Б—В легко видеть, что существует
континуум предикатов, удовлетворяющих соответствующему условию.
Поскольку имеется лишь ^0 эффективных операторов и ^0 эффективных
выборок, то уже из утверждений А—Б—В можно сделать полезные
выводы, касающиеся классов К, к. Например, из А следует, что, каковы бы
ни были йие)>0, имеется ^ предикатов, которые не попадают в к (Q, е)
и тем более в К (£2, е). Следовательно, существование неэффективных
предикатов, которые вычислимы частотно в смысле к или К, не вытекает
из мощностных соображений и должно устанавливаться другим способом.
Из утверждения Б можно легко вывести, что при любых 0<^е'<^е^1/2
#(2ЭфФ> £/)С7?(2эфф, е), а также £(2эфф, г')с£(2эфф, е). Поскольку
строгое включение может иметь место за счет неэффективных предикатов,
то тем самым для любого е > 0 установлено существование ^
неэффективных предикатов в классе К (Q8<M), e) и тем более в классе Ь (^Эфф» е)- Однако
ни из утверждения А, ни из утверждения Б не извлекается никакая
информация о том, имеется ли в каждом из упомянутых случаев среди ^
неэффективных предикатов рекурсивно перечислимые или еще чем-то
примечательные с точки зрения обычно употребляемых иерархий и
классификаций. Выяснение вопросов такого рода — а они-то как раз и
представляются интересными — требует более тонкого проникновения в
алгоритмическую природу рассматриваемых процессов. Ответы на некоторые
из таких вопросов содержатся в следующем параграфе, который посвящен
самой сильной концепции частотной вычислимости — в смысле К. Более
слабые концепции К, к, t обсуждаются в § 3. Связи с алгоритмическим
моделированием случайного посвящен § 4. Наконец, в § 5 формулируются
одна из возможных задач о сложности частотных вычислений и
перекликающаяся с ней теорема о частотной сводимости.
§ 2. Классы К (Q, е)
Мы рассмотрим здесь классы при следующих множествах выборок:
2„ 2>.(л=1>2> ...), 9Ю, 2эфф.
Очевидно, для оператора Т, действующего на Qn, значение р (Г/, TJ)
может равняться лишь одному из чисел 0, 1/п, 21 п, . . ., п—1/тг, 1.
Поэтому удобно говорить о (т, л)-вычислении предиката Г посредством
оператора Т, подразумевая под этим следующее: для любой п-ки попарно
различных натуральных чисел хг, х21 . ; ., хп оператор Т вырабатывает
двоичную последовательность аи о2, . . ., оп1 такую, что среди п равенств
Г (#i)=ai, . . ., Г (яя)=сзя по крайней мере m истинны. Иначе говоря,
р (Г/, TJ) ^ (n—m)/n при всех /£ Qn.
Если ^01 — алгоритм, действующий на все выборки из Qn (n считается
фиксированным), то его можно расширить до алгоритма^, действующего
в £Ц«^ следующим образом: Пусть / — произвольная конечная или
бесконечная выборка из Q^M:
/ = (i(l), i(2),...,i(n), i(* + l),...,i(2*)f i(2n + l), ...
Тогда 9D£ разбивает / на куски длины п, причем в случае конечной выборки
последний кусок может оказаться короче. Далее, на каждом из полных
225

кусков алгоритм 9D£ работает так же, как и 93?, а если последний кусок
неполный, вырабатывает на нем сплошь нули. Легко проверить, что если
при каком-нибудь е предикат Г принадлежит классу К (9R, &п, е), то
для некоторого подходящего Z, зависящего только от п и е, справедлива
и VQK(^Sfl, Q^>h e) *• Отсюда видно, что при любых п и е имеют место
включения
K(Qn,S)Q^(Qm,S)Q£(Qm,s). (3)
Перечислим теперь основные факты, которые известны о частотной
вычислимости в смысле К при Q = 2Я, 2^w, Q^, 2эфф. Учитывая включение
(3), мы будем стараться давать формулировки для того из классов Qnr
Qoo, йЭфф, для которого в соответствующем контексте эти формулировки
наиболее содержательны.
Как уже отмечалось в конце § 1, существует ^ предикатов, которые
не попадают ни в какой класс К (Q, е) и даже ни в какой класс к (Q,e).
Оказывается, что среди них имеются и рекурсивно-перечислимые (РП)
предикаты.
Теорема1(Дж. Роуз и Д ж. У л л и а н [2 ]). Пусть Г —
характеристическая функция множества с продуктивным дополнением (в
частности — креативного множества). Тогда существует такая эффективная
монотонная выборка J, что при любом алгоритме 9R
р(Г/, 3R/)=1.
Итак, ни А"(2эфф, е), а тем более ни -7?(ЙЭфф» г), ни К (2ет, е) и ни
JK(Qn, e) не содержат всех РП-предикатов.
Существование неэффективных предикатов в классах К (£2Эфф> е) Уже
отмечалось в § 1 в связи с утверждением Б. Следующая теорема
устанавливает аналогичный факт для классов К (Qw, e) при е > 1/2.
Теорема 2 (Б. А. Трахтенброт[1]). Существует алгоритм
97?0, который (2, 2)-вычисляет ^ предикатов.
Разумеется, интересно выяснить возможность частотного вычисления
неэффективных предикатов с более низкой частотой ошибки. Оказывается,,
что на Qn это невозможно.
Теорема 3. (Б. А. Трахтенброт [1]). Каково бы ни было пу
все предикаты из К (Qn, 1/2) (и тем более из К (Q„, e) при е <1/2)
эффективны,
В доказательстве теоремы 3 используется следующий факт. Пусть
какой-нибудь алгоритм 9ft (т, тг)-вычисляет единственный предикат Г;
тогда этот предикат эффективен. Более того, в таком случае алгоритм 9)?
можно эффективно преобразовать в (обычный) алгоритм 91, который
в обычном (а не только в частотном) смысле вычисляет этот единственный
предикат Г. С другой стороны, как показывает теорема 2, при т/п ^1/2
может оказаться, что алгоритм 9)? (т, тг)-вычисляет сразу даже К
предикатов. В связи с этим представляет интерес следующая теорема,,
которая показывает, что само по себе условие т/п ^1/2 не гарантирует
такого рода явления.
1 Пусть е1 — наибольшее среди чисел 0, 1/л, 2/п, , ., которые меньше е; тогда в
качестве I можно брать, например, Зп/(е—ег).
226

Теорема 4 (Е. Б. Кинбер). Для любых 1 <^ т ^ п и
для любого эффективного предиката Г существует алгоритм 9)Z,
который (т, п)-вычисляет предикат Г и только его.
Возвращаясь к теореме 3, заметим, что ею не исключается
возможность того, что при переходе к более узкому классу Q^ некоторые
неэффективные предикаты становятся уже частотно вычислимыми при е ^ 1/2.
Хотя этот вопрос остается открытым, следующее обстоятельство склоняет
к предположению, что теорема 3 распространяется и на класс &&<
Если для некоторого алгоритма 9Л, действующего на все выборки из R^i
одновременно 1\ £ К (9ft, £2оо, 1/2) и Г2 £ К (9Dc, Qoo, 1/2), то, как легко
видеть, Гх и Г2 различаются не более чем на конечном множестве точек.
Отсюда следует, что К (SO?, Qqq, 1/2) не может содержать одновременно
как эффективные, так и неэффективные предикаты и что класс К (Qqq,
1/2) счетен. Последнее показывает, что в отличие от случая е > 1/2
невозможно привлечь мощностные соображения для обнаружения частотно
вычислимых предикатов, которые неэффективны.
Если же мы ограничиваемся лишь классом Q3<H), то, как уже
отмечалось в § 1, из утверждения Б вытекает существование неэффективных
предикатов в К (Ц,фф, s) при любых s > 0. Более точное рассмотрение
обнаруживает, что среди них имеются и рекурсивно перечислимые предикаты,
причем такие, которые частотно вычислимы с нулевой частотой ошибки.
Теорема5(Дж. Роуз иД ж. У л л и а н [2]). Каков бы ни был
максимальный предикат Г
У/ейэфф:р(Г7, 1) = 0.
Сопоставление теорем 1 и 5 показывает, что в классе рекурсивно-
перечислимых предикатов креативные и максимальные предикаты
представляют с точки зрения частотной вычислимости противоположные
крайности (соответственно р = 1 и р=0).
Остается открытым следующий вопрос: при каких е существуют
рекурсивно-перечислимые предикаты Г, такие, что Г£7?(йэфф, е') для
любых е'^>е, но Г (£ К (Йэфф, е). Между тем, если в этом вопросе
заменить слово «рекурсивно-перечислимый предикат» словами «предикат из
класса V3(~|3V» (т. е. из пересечения классов V3 и 3V иерархии
Клини—Мостовского), то ответ на него содержится в следующей теореме.
Теорема 6 (Следствие из теоремы 10 §4). Пусть е —
любое конструктивное число, не превосходящее 1/2. Тогда в классе
V3 Г) 3V найдется предикат Г, такой, что Г (£ К (Оэфф, е), но Г £ К (йэфф, в')
при любом sf > s.
Как уже говорилось выше, существует эффективная процедура (ее
можно назвать процедурой элиминации ошибок), посредством которой
из всякого алгоритма 9??, который (/тг, тг)-вычисляет единственный предикат
Г, можно извлечь обычный алгоритм 91, вычисляющий Г. В связи с
теоремой 3 возникает естественное желание иметь аналогичную процедуру,
пригодную всякий раз, когда т/п > 1/2 (а значит, е ^ 1/2). Однако
это невозможно.
Теорема 7 (Е. Б. Кинбер). Не существует эффективной
процедуры (элиминации ошибок), которая по каждому 9??, такому, что
227

K(ffi, Qn, 1/2) не пусто, доставляла бы алгоритм для обычного
вычисления некоторого предиката изК{^31, 2Я, 1/2).
Вместе с тем нетрудно показать, что существует эффективная процедура
уменьшения частоты ошибок. Именно, справедлива
Теорема 8 (Е. Б. К и н б е р). Существует эффективная
процедура, которая по любым 9D? и п таким, что К (9DZ, Qn, 1/2) не
пусто, и любому е'^>0 выдает алгоритм 91, такой, что
£(91, 24w/s, s) 2 # (9ft, 2W, 1/2).
§ 3. Более слабые концепции частотной вычислимости
Как уже указывалось в предыдущем параграфе, нам неизвестно,
существуют ли неэффективные предикаты в классе К (Qco, е) при е ^ 1/2;
там же приводились доводы в пользу предположения, что таких
предикатов может не быть. Если даже это предположение верно, то этим не
исключается, что такие предикаты найдутся при более слабой концепции
частотной вычислимости. Рассмотрим, например, классы К (Q^, e) mk (Q^, e),
каждый из которых не уже соответствующего класса К (Qoo, e). К
сожалению, даже для этих классов нам неизвестно, содержат ли они
неэффективные предикаты при е ^ 1/2, а если содержат, то происходит ли
существенное расширение класса при убывании е от 1/2 до 0.
В связи с этим мы сосредоточим свое внимание на исследовании еще
более широкого класса Ъ (£2со, е), который получается при одновременном
отказе от требования равномерности и замене требований,
предъявляемых к верхней частоте допустимых ошибок, аналогичными требованиями,
предъявляемыми к их нижней частоте. Как будет показано ниже, при
такой ослабленной постановке класс частотно-вычислимых предикатов
существенно расширяется.
Предварительно сделаем следующее очевидное замечание. Каковы
бы ни были предикат Г и выборка /, справедливо по крайней мере одно
из следующих двух соотношений:
р(Г/, 1)<1/2, Е(Г/, 0)<1/2.
Следовательно, для любого Г можно гарантировать
ге*^«. в),
коль скоро е ^ 1/2. Поэтому представляет интерес лишь рассмотрение
случая, когда е <1/2. Имеет место
Теорема 9 (Я. М. Барздинь [3]). При любом О < е < 1/2
класс U (йоо, е) содержит все рекурсивно-перечисленные предикаты,
В этой формулировке отражен тот факт, что вычисление с частотой
ошибки, меньшей е, гарантируется на сколь угодно длинных начальных
кусках рекурсивно-перечислимого предиката Г. На самом же деле, как
заметил Я. М. Барздинь, из его доказательства [3] извлекается
дополнительная информация, а именно, можно эффективно указать
неограниченную последовательность начальных кусков предиката Г, для которых
гарантируется частота ошибок, меньшая чем е.
228

Теорема 9' (Я. М. Барздинь). Пусть Г —
рекурсивно-перечислимый предикат, J — бесконечная выборка, е > 0; тогда найдутся
условный алгоритм (z0l и безусловный алгоритм 91, такие, что
(I) 9Z вычисляет некоторую возрастающую последовательность
натуральных чисел
и(1), л (2), . . ., л («), .. .
(II) Для всех 5=1, 2, 3,...
р„(„(Г/, ЭД<е.
Итак, в указанном смысле характеристическая функция любого РП-
множества частотно вычислима с любой наперед заданной частотой.
Как будет видно из дальнейшего, уже в классе 3Vf)A3 есть такие
предикаты, для которых это неверно, т. е. эти предикаты уже не попадают
в U (йЭ|,ф, е) и тем более в k (Q^, e) при малых е. Остается невыясненным,
существуют ли такие неэффективные предикаты Г — не обязательно
рекурсивно-перечислимые, — для которых верно
V/ £ Q^Vfl: р (Г/, <3JIJ) = 0.
§ 4. Коллективы
В § 3 мы обратили внимание на тот очевидный факт, что для любого
предиката Г и любой выборки /
Яда:р(Г/, ЗЛ/)<1/2.
Поэтому с точки зрения частотной вычислимости крайнее неблагополучие
может проявляться разве что в том, что для некоторого предиката
окажется
V2K:E(IV, 3»7) = 1/2. (4)
И в самом деле существуют предикаты, для которых (4) справедливо
при любых эффективных выборках. Этот факт легко устанавливается
с помощью утверждения Б § 1 при р = 1/2.
В действительности же справедливы гораздо более тонкие
утверждения, доказываемые в связи с алгоритмическим уточнением понятия
случайной последовательности — в терминологии Мизеса — коллектива. При
этом используется понятие стратегии выбора или условной выборки,
являющееся обобщением того, что мы называем просто выборкой. Пусть
т — оператор, действующий на предикаты {Г} и преобразующий их
в выборки; длины этих выборок могут варьироваться в зависимости от
предикатов, к которым применяется т.
Стратегией выбора называется оператор т, который удовлетворяет
условиям:
1) пусть в выборке
7 = тГ = *(1), i(2),...,i(&-l), i(A), i(k + l), ...
i(k) = ci. Обозначим через Г(а) — предикат, отличающиеся от Г только
при значении аргумента а. Тогда в выборке /' = тГ(я)
*'(1) = *(1),..., V(k) = i(k);
229

2) т — эффективный оператор, а значит, задается посредством
некоторого условного алгоритма 9Z.
Это определение лишь внешне отличается от определений,
принадлежащих А. Н. Колмогорову [5] и Д. Лавлэнду [4] и по существу
эквивалентно им. Смысл ограничения 1) состоит в том, что в процессе своей
работы применительно к предикату Г алгоритм 9? вплоть до выдачи любого
какого-нибудь элемента i (к) не использует информацию о значении
Г (i (к)). Очевидно, каждая эффективная выборка / может рассматриваться
и как константная стратегия выбора, которая сопоставляет с каждым
предикатом Г одну и ту же фиксированную выборку /. Коль скоро
зафиксированы стратегия выбора т и предикат Г, можно обычным образом
сравнивать двоичную последовательность Г/=Г (тГ) с двоичной
последовательностью c$lJ=czOl (тГ) и в зависимости от их частотного
отклонения высказывать суждения о частотной вычислимости Г вдоль выборки
тГ. Имеет место следующая
Теорема 10 (Д. Лавлэнд [4]). Для каждого конструктивного
действительного числа р (0 ^ р ^ 1) существует предикат Г в классе
V3p|3V, удовлетворяющий следующему условию.
(Условие К—Л): Пусть какая-нибудь стратегия выбора т в
применении к Г порождает бесконечную выборку тГ; тогда в
последовательности Г (iT) предельная частота единиц существует и в точности равна р.
Предикаты Г — или что то же самое, двоичные последовательности
Г, — удовлетворяющие условию К—Л, — это так называемые р-кол-
лективы Колмогорова—Лавлэнда.
Пусть тг — наименьшее из двух чисел р и 1—р. Ясно, что при любом
е > п р-коллектив принадлежит классу К (йэфф, е). С другой стороны,
легко видеть, что ни для какой эффективной выборки / невозможен
алгоритм 9Л, для которого р (Г/, tyRJ) < тс. Из этих замечаний
непосредственно вытекает сформулированная в § 2 теорема 6. Из них же вытекает
существование в классе УЗ (J 3V таких предикатов, для которых на
любой эффективной выборке имеет место формула (4) данного параграфа.
Частным случаем стратегии выбора является стратегия Мизеса—
Черча, которая определяется следующим образом.
На множестве всех двоичных слов — включая пустое слово — задан
некоторый эффективный предикат F (£), индуцирующий стратегию
выбора т. При этом для любого предиката Г выборка /= тГ— i (1), i (2), . . .
определяется так. Рассматриваются всевозможные начальные куски
предиката Г, т. е. пустое слово, слово Г (1), слово Г (1) Г (2), слово Г (1) Г (2)
Г (3) и т. д. Тогда,
i(l) = vk[F(Y(l)...T{Jc-l))=ll *(2) = гЛ[*>*(1)1&
^(Г(1)Г(2)...Г(Л-1)) = 1],
i (3) = pk [k > i (2) & F (Г (1) ... Г (k — 1)) = 1]
и т. д., и т. д.
Поскольку класс стратегий Мизеса—Черча уже класса всех стратегий
выбора, всякий р-коллектив в смысле Колмогорова—Лавлэнда является
коллективом и в смысле Мизеса—Черча, т. е. справедливо утверждение:
для любой стратегии Мизеса—Черча т в последовательности Г (тГ) пре-
230

дельная частота единиц существует и равна р. Однако это предложение
необратимо.
Т е о р е м а И (Д. Л а в л э н д). Существуют р-коллективы Мизеса—
Черча, которые не являются коллективами Колмогорова—Лавлэнда.
Доказательство теоремы основано на далеко идущем усилении
утверждения В из § 1.
В частности, отсюда легко вывести следующее утверждение (ср. с тео-
ремой6): Ув(0<в<1/2)ЗГ:
Ге^эффГ^онох, е)&Г$£(2эфф, е).
§ 5. О сложности частотных вычислений
До сих пор главное внимание уделялось выяснению ситуаций, когда
возможно частотное вычисление (в том или ином смысле) неэффективных
предикатов. Что же касается эффективного предиката Г, то применение
частотного вычисления вместо обычного (а ведь оно возможно!),
по-видимому, оправдано в случае выполнения следующих двух условий: (I)
по смыслу решаемых задач нет необходимости получать всегда истинные
значения Г, а достаточно их получить с некоей гарантированной частотой;
(II) частотное вычисление Г проще обычного его вычисления.
Для того чтобы уточнить условие (II), нужно предварительно
разъяснить, каким образом мы намерены измерять сложность частотных
вычислений и сравнивать ее со сложностью обычных вычислений. Здесь
возможны различные подходы, но мы обсудим лишь один из них, который
«связан с (яг, ^-вычислениями, т. е. с концепцией К (QM, в).
Итак, пусть зафиксировано некоторое кодирование тг-ок натуральных
чисел и мы рассматриваем всевозможные машины Тьюринга 9J?, которые
{т, ^-вычисляют предикат Г.
Среди этих машин выделим те, которые удовлетворяют следующему
условию (*).
Условие (*): будучи запущенной на тг-ке хг я2, . . ., хп, машина 9W
вычисляет истинное значение Г (я^), затем истинное значение Г (х2) и т. д.
до Г (хт), а для остальных п—т значений аргумента выдает в качестве
предполагаемых значений нули.
Смысл условия (*) ясен: машина 9?? не реализует «настоящего»
частотного вычисления, а фактически имитирует его путем обычного вычисления
т значений вместо п запрашиваемых. Возникает вопрос: существует ли
эффективный предикат Г, для которого справедливо следующее
утверждение. Имеется машина Тьюринга 9Р?0> (mi ^-вычисляющая Г и такая, что
для любой машины 9J?, (иг, ^-вычисляющей Г и удовлетворяющей условию
{*), имеет место неравенство по порядку:
*зй0(е)=°(*и(5)). (5)
Здесь scfli , Scfli — емкостные сигнализирующие машин ^010 и <ЭЛ (см. [6]).
Разумеется, вместо емкостных сигнализирующих можно брать
временные и т. п.
Ясно, что если такие предикаты существуют, то достигаемое
упрощение при частотном вычислении возникает за счет того, что нет способа
231

каждый раз узнать, какие именно т ответов среди всех п истинны.
Мы не располагаем ответом на поставленный вопрос, но представляется
правдоподобным, что ответ утвердительный. Некоторый довод в пользу
такой гипотезы можно усматривать и в формулируемой ниже теореме
Р. В. Фрейвалда. Предварительно введем нужные понятия. Во-первых,
по аналогии с частотной вычислимостью предикатов можно рассматривать
частотную сводимость одних предикатов к другим. Следуя Р. В. Фрей-
валду, определим, например (т, тг)-сводимость.
Предикат 1\ (т, тг)-сводится к предикату Г2, если существует
алгоритм 9!ft, который работает так: для каждой тг-ки попарно различных
чисел хг, • • -, хп алгоритм SD? вырабатывает тг-ку чисел уг, - •., уп,
причем среди п равенств Т1(х1) = Т2(у1)1 • •-, ^i (хп)=Т2 (уп) по крайней
мере m истинны. Вполне аналогично теореме 3 устанавливается
Теорема 12 (Р. В. Фрейвалд, не опубликовано).
Если предикат 1\ (т, п)-сводится к предикату Г2, причем т/п ^> 1/2г
то Т± сводится (по Тьюрингу) к Г2 в обычном смысле.
Вместе с тем справедлива следующая
Теорема 13 (Р. В. Фрейвалд, не опубликовано).
Для каждого п существует пара рекурсивно-перечислимых предикатов
Г1 и Г2, для которых выполнены условия:
(I) 1\ (п — 1, п)-сводится к Г2 с линейной емкостью;
(II) при любом тьюринговом сведении Тг к Г2 емкостная сигнализи-
руюи'гая не мажорируется никакой рекурсивной функцией,
Л ИТЕРАТУРА
1. Б, А. Трахтенброт. О частотном вычислении функций. Алгебра и логика, 2, вып. 1Г
1963.
2. G. Rose, /. Ullian. Approximation of functions of the integers. Pacific J. Math., 13,.
№ 2, 1963.
3. Я. М, Барздинъ. О частотном решении алгоритмически неразрешимых проблем.
Докл. АН СССР, 171, № 5, 1970.
4. D. Loveland. The Kleene hierarchy classification of recursive random sequences*
Trans. Amer. Math. Soc, 125, 1966.
5. A. N. Kolmogorov. On tables of random numbers. Sankya A 25, 1963, 369—376.
6. Б. А. Трахтенброт. Сложность алгоритмов и вычислений. Новосибирск, 1967*

А. А. ФРИДМАН
РЕШЕНИЕ ПРОБЛЕМЫ СОПРЯЖЕННОСТИ
В ОДНОМ КЛАССЕ ГРУПП
Проблема сопряженности в группе G состоит в построении алгоритма,
распознающего по любым элементам А ж В группы G, сопряжены они
в ней или нет, т. е. имеет ли решение уравнение сопряженности Ах^хВ.
В 1952 г. П. С. Новиковым [1] было показано, что в классе всех
конечно-определенных групп проблема сопряженности неразрешима. Для
групп с одним определяющим соотношением вопрос о проблеме
сопряженности остается открытым, хотя имеются отдельные результаты [7, 9].
В данной работе приводится решение проблемы сопряженности для групп
вида Г = «ах, . . ., ап, р; Ар=рВ» (где А ж В — непустые слова в алфавите
%,..., ап, аГ1, . . ., а"1), анонсированное в [3]. Оказывается, что отсюда
следует разрешимость проблемы сопряженности в группах G=«a1, . . .,
а»> Р; Ар^р^В».
Далее мы используем терминологию из работ [2, 4] и следующие
обозначения:
=2= — графическое равенство (совпадение),
= —равенство в свободной группе.
= —равенство в группе G,
ху х~1 — элемент, обратный к ж,
I (Р) — длина слова Р,
lp (P) — число букв р° в Р9
о — эквивалентность утверждений.
1. Рассмотрим группу
Г=<а1, .... ая, р; Ар = рВ% (1.1)
где АжВ — непустые несократимые слова в алфавите а19 а"1, . . ., ап, а~Ч
Далее, слова в этом алфавите называются а-словами. Буква «р» в (1.1)
является «проходной» и, как легко видеть, образует в (1.1) правильную
систему проходных букв [3].
Замечание 1. Можно считать, что слова АжВ циклически
несократимы, т. е. AqtSAxS, BzfzTBJ*.
Действительно, если A^SA-^S, B^TB^, то группа Г изоморфно
переводится в группу Yf =<^av . . ., ап, q; A1q = qB^> отображением
ai -> а., р -> SqT, ж поэтому достаточно решить проблему
сопряженности в Г'.
233

Далее нам потребуется ряд утверждений для групп с правильной
системой проходных букв, доказанных в [2], [8] и [10], которые для группы
Г удобно сформулировать следующим образом.
Лемма А. Пусть Р и Q являются а-словами. Тогда
P^QoP = Q.
Лемма В. Пусть Е = 1 иЕ содержат букву р°(а=±1). Тогда
найдется а-слово Е2 и целое п, такие, что ЕтЕ1раЕ2раЕ3 и
если o = -fl» то Е2~Вп, Е ~= ЕгАпЕ3\
если а = — 1, то Е2 = Ап, Е = ЕгВпЕ3.
Слово EznE1p(SE2p(SE3, где Е2 есть а-слово, назовем р-сократимым,
если либо а ===== —f-1 и Е2~В,п, либо а =—1 и Е2 = Ап, где п — целое.
При этом слово Е1АпЕ3 (Е±ВпЕ3), равное слову Е в Г, назовем
результатом сокращения выделенных р-букв. Слова, не являющиеся р-сократимыми,
назовем р-несократимыми. Слово Е называется циклически р-несокра-
тимым, если каждая его циклическая перестановка р-несократима.
В противном случае Е называется циклически р-сократимым.
Лемма С. Пусть слова Р, Q — циклически р-несократимы, и хотя
бы одно из них содержит ра'. Тогда Р ~ Q в том и только в том случае,
когда выполняются условия:
1. Слово (Р) — есть циклическая перестановка слова (Q)p.
2. Найдется целое у и циклические перестановки Р°, Q0 слов Р и (?,
такие, что (P°)pz°z(Q°)p и
либо Р° Z2i Prp, Q° isz Qfp и P'pBr = B?Qfp,
либо Р° z°z Р'р, (?о щ Qip и Р'рА* =f= A?Q'p.
Легко видеть, что из леммы В вытекает следующая лемма.
Лемма 1. Пусть Ez°zExp°E2, DzozD2plDx, где Е и D р-несократимы,
а Е2, D2, С — а-слова. Тогда из ED = С следует: 1) о==-—8, 2) если о= 1,
то E2D2 = Вп, ED = ЕгАпЕ3, 3) если о = —1, то E2D2 = Ап,
ed-te^d^
Замечание 2. Из определения сопряженности элементов
следует, что Р ~ Q о Р° ~ (?°, где Р° и Q0 — произвольные циклические
перестановки слов Р vlQ соответственно. Нетрудно видеть, что в Г для
любого слова Р можно указать циклически р-несократимое слово Рг, равное
некоторой циклической перестановке слова Р. Поэтому при анализе
сопряженности слов Р и Q можно всегда считать, что они циклически
р-несократимы.
2. Далее нам потребуются некоторые сведения об уравнениях в
свободной группе. Излагаемые здесь результаты, по-видимому, известны,
но не опубликованы. Поэтому мы формулируем все необходимые
утверждения, а для двух из них приводим доказательства, по аналогии с которыми
доказываются и другие утверждения.
1 Здесь и всюду далее А и В обозначают слова, фигурирующие в задании (1.1) группы Г.
234

Замечание 3. Известно, что уравнение Px=xQ имеет решение
тогда и только тогда, когда найдутся такие циклические перестановки
Р° и Q0 слов Р и Q соответственно, что Р°=()0.
2.1. Рассмотрим уравнение
Ех = хВ.у (2.1)
относительно словарной переменной х и натурального неизвестного у,
когда Е и R — циклически несократимы, a R — простое слово, т. е.
ЛфМа, где |а| > 1. Нетрудно показать, что при сделанных
предположениях имеет место следующая
Лемма 2. Если хг, уг — решение уравнения (2. 1), то y±l (R) —
= 1(Е).
Отсюда в силу замечания 3 получаем алгоритм решения (2. 1).
Лемма 3. Пусть Т— циклически несократимо. Уравнение Тух=хТг
относительно неизвестного слова х и целых г/, z имеет решение тогда и
только тогда, когда y=z.
Достаточность очевидна.
Необходимость. Пусть уравнение имеет решение Хи уъ z±.
Тогда, используя лемму 2, получаем что |z/i| = |%|. Допустим, что г/х =
= —zx ^ 0. Тогда в силу замечания 3 найдутся циклические перестановки
слов Т&1 и TZl, равные в свободной группе. Нетрудно видеть, что тогда
найдутся циклические перестановки слов Г и Г, равные в свободной группе
TzrTJ* ГзгГ3Г4, Т2Т1 = ТЪТ,. (2.2)
Поскольку Т циклически несократимо, то из (2. 2) следует
TJ1 = TaTt; (2. 3)
а) если Z(271)^Z(273)? то из (2.3), (2.2) имеем последовательно
Г, /хг /хг /хг ПН ПН ф ф Т* . Пл ПР Ф П1 ПГ
откуда в силу несократимости Т получаем Т5 z°z 1. Тогда T1nzT3 и
Т2Тг z°z Т1Т29 что противоречит циклической несократимости Т;
б) если 1(Т^<^1{Т^, то, рассуждая аналогично, получим снова
T2T1ze:T1T2, что невозможно.
Полученное противоречие завершает доказательство.
2. 2. Рассмотрим показательное уравнение [6] вида
ERy = FzH (2.4)
относительно натуральных неизвестных г/, z. Уравнение (2. 4) назовем
приведенным, если: 1) слова R и F — циклически несократимы и просты;
2) слова ER и FH — несократимы; 3) слово Е не кончается на Д, а Н не
начинается с F; 4) в (2. 4) вместо у (z) может фигурировать линейная
функция от у (z) с натуральными значениями. Положим Мг=1 (EHRSFS).
Справедливо следующее утверждение, вытекающее из [6].
Лемма 4. Если yv zx — решение приведенногд уравнения (2.4) и
y1l(R)^M1, z1l(F)^M1, mo y1 = zv EznH, RzuBE, Fz^EB.
Следствие. Если условия теоремы выполнены, то множество
решений уравнения (2. 4) исчерпывается множеством пар y=z—n, где
п — произвольное натуральное число.
235

2. 3. Рассмотрим систему приведенных показательных уравнений
Erf* = F^~lH., i = 1 -^- т. (2.5)
По аналогии с определением Мх положим
М2 = max {1(Р{Н,Ят)}.
i
Нетрудно видеть, что для системы (2. 5) имеет место аналог леммы 4.
Лемма 5. Если уг0, у[, . . ., ут — решение системы (2. 5) и yJL (R,.) ^ М27
Vi-il(Fi) >M2npu i=\-^-m, то: у\ = y,_v i = l-^m, E.nzЯ,, R.з: BtEif
Fi - ад.
Следствие. Если условия леммы выполнены, то множество
решений системы (2. 5) совпадает с множеством наборов г/0=г/х=. . -=Ут = пу
где п — любое натуральное число.
Из сформулированных утверждений вытекает естественный алгоритм
решения системы (2. 5) и описание всех ее решений.
2. 4. Рассмотрим показательное уравнение
ECy = D4I (2.6)
относительно натуральных неизвестных г/, z, где Си/) — циклически
несократимы. Пусть Ms=l (ECDH).
Лемма 6. Уравнение (2.6) в области у, z, ^> М3 эквивалентно
приведенному показательному уравнению
ЕгН**+* = F^+rIIv (2. 7)
где С = Ла, Z) = F'3, а > О, (3 > 0, а f 2. 7) эффективно находится по (2. 6).
Доказательство. Пусть C = i?a, D = F^, где а^>0, р>0, а Л и
F — простые слова. Тогда (2. 6) принимает вид
ЕВ** = F^H. (2. 8)
Не уменьшая общности, можно считать Е и Н несократимыми словами.
Преобразуем обе части уравнения (2. 8) при у, z > M3 к «приведенной
форме».
а) Если Е zn ЕгЯ\ t > 0 и t — максимально, то ERy == EfR«y+t, где Я'Д—
несократимо и 2?' не кончается на R. Тогда полагаем ExiozEl', q—t.
б) Если £ zz: £2fis =2= E^R8, s > 0 и 5 — максимально, Л ш i?^ и ^ —
наибольший по длине конец слова Е2, являющийся концом слова R, то:
при непустом Rx: ER^^E^R'R^^E^R^-8-1 и в области у>М2
слово E^R^R**"8'1 несократимо, поскольку сну — s — 1 ^ 0; R — циклически
несократимо, а /?х — максимально по длине. Очевидно, E3R2 не кончается
на R, так как Е — несократимо. В этом случае полагаем Ег^:Е3В2г
qz=—s — l.
при пустом R{. ERay = E3R^~8 и в области г/>М2 слово E3R*v-*
несократимо, поскольку сну — 5^0, а E2znE3 не кончается на непустое Йг*
Очевидно, Е3 не кончается на R в силу несократимости Е. Тогда E-^znE^
q = —s.
Преобразование правой части (2. 3) к приведенной форме делается
аналогичным образом.
236

2. 5. Рассмотрим систему показательных уравнений
Efivi = D^H., i = 1 +- т, (2. 9)
где С4, D4 циклически несократимы относительно натуральных
неизвестных у.. Пусть М± = тъх{1(Е.С.Р-Н.)}.
i
Лемма 7. Система (2.9) в области у{^>М± эквивалентна системе
приведенных показательных уравнений
#;/#"+« ~F\iyi-^iH^ (2> 10)
где C.~R«i, D. = F^, а.>0, Р,.>0 и (2.10) находится по (2.9)
эффективно.
Доказательство непосредственно следует из леммы 6.
Из сформулированных утверждений получаем очевидный алгоритм
решения системы (2. 9).
3. Рассмотрим уравнение сопряженности в группе Г
Px^xQ. (3.1)
В силу замечания 2 можно считать, что слова Р и Q циклически
р-несократимы, а также циклически несократимы. Очевидно также, что
при анализе вопроса о существовании решения уравнения (3. 1) можно
ограничиться р-несократимыми решениями.
Пусть X—р-несократимое решение уравнения (3. 1). Рассмотрим
отдельно два случая.
I. Слово PQ не содержит букв р°.
П. Слово PQ содержит букву р5.
3.1. Случай 1. Если X не содержит ра, то в силу леммы А слово X
будет решением (3. 1) в свободной группе. Остается воспользоваться
замечанием 3.
Если же X содержит р°, то оно имеет вид
X^X^X2...Xkp^Xk+1, (3.2)
где X. — а-слова, I (X) = k, <^=±1. Обозначим через Г> Т4 словарные
переменные, принимающие значения А или В. Далее положим
Г Л, если Tz°zB,
~\ Б, если ГхА.
Лемма 8. Для того чтобы слово X вида (3. 2) было решением у рае-
нения (3.1), необходимо и достаточно, чтобы нашлись такие целые
числа у1э . . ., Yfc» что слова X. будут решениями следующей системы
уравнений:
(а): Рх, = xjf, (Ь): Т]*хм = хмТ\# (* = Н-&-1),
(с): TfxM = xk+1Q,
где T.z°iA, если а. = 1, и Тг^В, если о4 = —1, причем
\ъ\1 (TJ = I (Р), \ъ\1 (Г,) = | т<+111 (Ti+1), \ъ\1 (fk) = l (<?).
237

Необходимость. Доказательство проведем индукцией по I (X) = к.
Пусть слово X вида (3.2) — решение (уравнения (3.1)). Тогда
Q т Хк+1Р^к ■ ■ ■ Х^Х.РХ^Х, ... Хкр°*Хк+1 а: ХРХ. (3. 3)
Так как Q, Р9 Хк+1 — а-слова, X, а следовательно, и X — р-несократимы,
то в силу леммы 1 получаем:
если аг=19 то X1PX1=iA(l, где у2 — целое число, /о /\
если a1== — 1, то XjPZj == BTl, где ух — целое число,
или, что то же самое в силу определения 7\,
РХХ = Х^ь. (3. 5>
Отсюда в силу леммы 2 имеем: | ух |/(7^) = Z (Р). Далее, из (3.3)—(3.5),
используя определяющее соотношение группы Г, получаем, что
Q т ХшР°кХк ■ ■ ■ ЯзртВД'ХаР-Х, •. . Хкр°кХк+1 z-z X'f'X'.
Очевидно, I (Хг) = к— 1. Остается воспользоваться индуктивным
предположением.
Достаточность. Пусть утверждение доказано для всех X, где
I (Х)<А. Докажем, что оно верно для I (Х)=к. Рассмотрим слово
Х' = ХаР*Х3...Хкрг*Хм.
Очевидно, I (Х!) = к — 1 и из условий (а)—(с) следует, что X1 — решение-
уравнения
TYx> ^ xlQ.
Тогда
РХ zsz PXlP^X! — XJl^X1 — XlP^TYXj — XlP^XjQ zbz XQ,
(a)
т. e. X zrz XjP^X'—решение уравнения (3.1).
Замечание 4. Пусть X ш X1p5*Xi.+1pJ»+iX2, Xi+1 — а-слово. Тогда,,
рассуждая, как и при доказательстве леммы 8, можно показать, что слово X
будет решением уравнения (3.1) тогда и только тогда, когда найдутся
целые числа уг. и ^i+v такие, что
(а,): РХ* тр Х^Гу, (Ь): TyXi+1 = XMrt%, (с): Тц^Х* ^ X*Q. (3. 6>
Лемма 9. Если ХщХ1р°*Хмр**Х?9 где Xi+1 — а-слово — решение
уравнения (3. 1), то и X1 1°: Х2Х2 — решение уравнения (3. 1).
Доказательство. Пусть X — решение уравнения (3.1). Тогда
в силу замечания 4 выполняются условия (3. 6), причем ai+1 = —о.. Поэтому
TiZoiTi+l9 Т4+1игТ4 и условие (Ь) в (3.6) принимает вид Т]^ХМ =
==Xi+1T]*++i. Отсюда по лемме 3 имеем т, = т<+1 и РХ1Х2 = Х^рХ2:^
1+1 (с) ^
Следствие. Если X — решение уравнения (3. 1) и 1р (X) ^> О, то
уравнение (3.1) имеет такое решение X', что 1р(Х!)^1 (X), и либо X1 не-
содержит буквы р либо X1 не содержит буквы р.
Определение 3. Слово X, где I (Х)>0, назовем ^-монотонным,
если либо X не содержит букву р, либо X не содержит букву р.
238

Лемма 10. Если X— р-монотонное решение уравнения (3.1), то
lp(X)<l(P) + l(Q).
Доказательство. В зависимости от соотношения между длинами
слов А и В, а также того, входят ли в X буквы р или р, есть несколько
возможностей. Поскольку доказательство во всех случаях аналогично,
рассмотрим один из них. Пусть I (А) > I (В) и Х^иХгрХ2 . . . ХкрХк+1 —
решение уравнения (3. 1). Тогда по лемме 8 найдутся такие целые
числа y*> что-
(а): РХг == ХгА\ (Ь): BfiXi+1 =ХМА^, * = 1 -i-*_ 1, (с): В™Хк+1 = Xk+1Q,
причем
\Ъ\1{А) = 1(Р), \b\l(B) = \b+1\l(A),i = l^k-U
(c):|Tfc|Z(i?) = Z(<?). (3.7)
Поскольку 1(А)>1 (В), из (3. 7) получаем: | ^+11< | у. | или | ут1 -{-
-f-1 <^ | Ti J ПРИ г = 1 -г-А —-1. Отсюда (А: — 1) + I T* I ^ I Ti I или после П0Д-
становки явных выражений для | у21 и \^к\ из (3. 7):
*<lTil + l-|T*l = rS-i§ + l<«(^) + '(«-
Лемма-10 доказана.
Сопоставим уравнению (3.1) конечное множество систем уравнений
(двух типов) в свободной группе относительно целых чисел ^. и слов х.:
1 тип:
Рхг = ъА\ Byixi+1 = xi+1Ali+\ i= 1^-к - 1, ВУкхк+1 = xk+1Q,
где
\Ъ\1(А) = 1(Р), ШЧВ) = \1М\НА)> * = !-=-* —1, |y,|Z(£) = Z(<?).
2 тип:
/^^2 ^= хгВ , л ^i+1 = xi+1B , г = 1—А; 1, л #£+i = %k+v<i
где
|Tl|Z(4) = Z(P), |т.и(Л) = /(В)|Т|41|, * = 1-НЛ —1, \U\l(A) = l(Q)>
причем всюду к<^1 (Р) + Z ((?).
Каждая такая система однозначно определяется выбором чисел к я
Ti» • • •' Тй* Таких систем конечное число и их можно выписать. Каждая
из них состоит из уравнений сопряженности и легко решается.
Из лемм (8)—(10) следует, что вопрос о существовании (нахождении)
решения системы (3.1) эквивалентен вопросу существования (построения)
решения хотя бы у одной системы типа 1 или 2. Анализ случая I (когда
(PQ)pzni) закончен.
3.2. Случай II. Так как слово PQ содержит р5, то р° входит хоть
в одно из слов Р, Q, Тогда по лемме С слова (Р) и (Q) совпадают
с точностью до циклического сдвига. В силу замечания 2 можно считать,
что слова Р и Q имеют вид
Р з: P>i>t... Pj>'; Q з: QlP^Q2... QnP\ (3. 8)
где P., Q. — а-слова и P, Q — циклически р-несократимы.
239

Положим
Р* зс Ptp'*... Pjr-Pjp'* ... Р^гР'*-', (3 9v
Q* zsz Qjpb ... QjfinQjP9*... Qj-rfi^.
Будем говорить, что пара Р4, Qj допустима, если слова (Р*)р и (QJ)p
совпадают.
Лемма 11. Уравнение (3.1) имеет решение тогда и только тогда,
когда имеет решение относительно целого у хоть одно из уравнений
PWeezSIQ', (3.10)
где пара Р\ QJ — допустима, a Sz°zA, если ot._1 = &;._1 = —1 и SznB,
если о<_1 = 8 ._! = 1„
Доказательство непосредственно следует из леммы С.
Рассмотрим уравнение (3.10). Пусть, например, пара Р1, Q1 допустима
и оп — Ъп = —1. Тогда (3.10) принимает вид
Р^Р2... Р„рА* = A*QlP*Qt ...QJ>. (3.11)
Лемма 12. Для того чтобы у = у0 было решением уравнения (3.11),
необходимо и достаточно, чтобы система уравнений
(а): PJY — A^Q^ (Ь): Р<т]' = Т]±?<?4, i = 2+n9 (с): Т1* = А\ (3.12)
где
(А, если о. = 1, „ (В, если Г.хЛ,
•~{5, если а. = —1, *~М, если Т^В.
имела решение относительно целых у,..
Доказательство аналогично доказательству леммы 8.
Пусть yf = y.ev е, = ±1, у4 = \^.\. Тогда систему (3.12) можно
переписать следующим образом:
PJl^ — A^Q, P.TyiiH^fyiif4-lQi при i = 2-±n, (3.13)
а Уп = У& е« = ео> поскольку TnzsiB и ^яз:Л (оя = —1).
Системе (3. 12) относительно целых у,- сопоставим конечное множество
систем (3. 13) относительно натуральных у., каждая из которых получается
из (3. 13) фиксацией двузначного вектора е=(е1, . . ., ej и обозначается
соответственно через (3. 13 е). Набор о=(оь . . ., oj, по которому
выписываются «значения» Т4, находится в рассматриваемом случае по Р1, Q1,
а в общем случае — по допустимой паре Pi, QJ, Очевидно, система (3. 12)
имеет решение тогда и только тогда, когда имеет решение хоть одна из
систем (3. 13 е). Каждая из систем (3. 13 е) есть система показательных
уравнений, алгоритм решения которых описан в п. 2. 4—2. 5.
Совершенно аналогично рассматривается уравнение (3. 10) для
любой другой допустимой пары Р*, QJ, общее число которых конечно. В
каждом случае уравнение (3. 10) равносильно «дизъюнкции» конечного числа
систем показательных уравнений, аналогичных системам (3. 13 е).
Случай II исчерпан.
Итак, мы построили алгоритм, решающий вопрос о существовании
(построении) решения уравнения сопряженности (3. 1) в группе Г. Тем
самым доказана следующая.
240

Теорема. В классе групп Г вида (1. 1) проблема сопряженности
разрешима.
4. Рассуждения, аналогичные проведенным выше, позволяют решить
[5] проблему сопряженности и в группах G=<(<(a1, . . ., ап, р; Ар=рВуу.
Но этот результат можно получить гораздо проще — сведением проблемы
сопряженности вбк проблеме сопряженности в Г1.
Рассмотрим группу Г1? где
Г1 = <«1, ...,«„ р; AP*B = iy.
Нетрудно проверить, что группа G изоморфна 1\ при отображении ср-
<р«: а.->а., р->рВ,
поэтому
P~Qo<f(P)~<?(Q). (4.1)
G Тх
Рассмотрим теперь группу Г2 — свободное произведение группы 1\ и
свободной группы с одним образующим «с»:
Г8 = <а1, ...,ая, с, р; Лр2Л = 1».
Известно, что проблемы сопряженности (П. С.) в Г2 и Гх равносильны:
алгоритм решения П. С. в Г2 решает и П. С. в Гъ а по алгоритму решения
П. С. в 1\ весьма просто строится алгоритм решения П. С. в Г2.
Рассмотрим далее группу Г3:
гз = <а1» • • •> ап> с> А* АВс = ср*у.
Легко проверить, что Г2 изоморфна Г3 при отображении ф:
ф: а.-*а4, с-* с, р-+срс,
поэтому
/>~<?оф(Р)~ф(<?). (4.2)
г2 г3
Очевидно, группа Г3 является группой вида(1. 1) — в Г3 проходной
буквой является «с». Из разрешимости проблемы сопряженности в группах Г
вида (1. 1), эквивалентностей (4. 1), (4. 2) и указанной выше
равносильности П. С. в Гх и Г2 следует разрешимость проблемы
сопряженности в G.
5. Вопрос о решении уравнения сопряженности можно ставить не
только для групп, но и для полугрупп. Можно показать, что проблема
сопряженности в полугруппах П вида П = <(а1?. . ., ап; А'р=рВ'У, где А', В' —
слова полугруппы /7, разрешима. При этом анализ уравнения
сопряженности в полугруппе П во многом напоминает те рассуждения,
которые приведены выше при решении проблемы сопряженности в группе Г.
Об этой редукции сообщил автору Г. А. Гуревич.
241

ЛИТЕРАТУРА
1. П, С, Новиков, Об алгоритмической неразрешимости проблемы тождества.
Докл. АН СССР, 85, № 4, 1952.
2. П, С. Новиков. Неразрешимость проблемы сопряженности в теории групп.
Изв. АН СССР, 18, № 6, 1954, 485—524.
3. А, А, Фридман, Решение сопряженности для одного класса групп. Резюме
сообщений и докладов X Всесоюзного алгебраического коллоквиума. Т. I. Новосибирск,
1969.
4. А, А, Фридман, Степени неразрешимости проблемы тождества для
конечно-определенных групп. М., «Наука», 1967.
5. А, А, Фридман, Решение проблемы сопряженности в одном классе групп. Резюме
сообщений и докладов XI Всесоюзного алгебраического коллоквиума. Кишинев,
1971.
6. Ю, И, Хмелевский, Уравнения в свободной полугруппе. Труды Матем. ин-та
АН СССР, 107, 1971.
7. Г. А, Гуревич, К проблеме сопряженности для групп с одним определяющим
соотношением. См. настоящий сб., стр. 109.
8. D, J, Collings, Recursively enumerable degrees and the conjugacy problem. J. Symb.
Logic, 32, N 3, 1967.
9. В. В, Newman, Some results on one relator groups. Bull. Amer. Math. Soc, 74, N 3,
1968.
10. /. L, Britton, The word problem. Ann. Math., 77, 1963, 16—32.

В. В. Ш К ИР А
ОБ УНИВЕРСАЛЬНЫХ ФУНКЦИЯХ
ДЛЯ НЕКОТОРЫХ КЛАССОВ
РЕКУРСИВНЫХ ФУНКЦИЙ И МНОЖЕСТВ
Известно, что класс общерекурсивных функций (ОРФ) от данного
числа переменных не имеет универсальной ОРФ, в то время как класс
примитивно рекурсивных функций имеет универсальную ОРФ. В связи
с этим возникает вопрос: для каких подклассов ОРФ существует
универсальная ОРФ и для каких нет.
Аналогично ставится вопрос для подклассов
рекурсивно-перечислимых множеств.
В статье рассматриваются некоторые подклассы ОРФ от одного
переменного и семейства рекурсивно-перечисленных множеств натуральных
чисел, для которых решается вопрос о существовании универсальных
ОРФ.
В статье используется терминология, принятая в книге А. И.
Мальцева [1].
Универсальные функции для подклассов ОРФ
Пусть N — множество натуральных чисел. Универсальной функцией
для подкласса S ОРФ называется такая ОРФ Ф (т, х), для которой
выполнены условия:
1) для всякой функции <р£^ найдется т такое, что <?(х) = Ф(т, х)
для всех х;
2) для всякого тг ^ N Ф (mv x) £ S.
Рассмотрим следующие подклассы ОРФ от одного переменного:
Fx — множество всех монотонных ОРФ,
F2 — множество всех строгомонотонных ОРФ,
F3 — множество всех разнозначных ОРФ,
F4 — множество всех ОРФ с примитивно-рекурсивным графиком,
Fb — множество всех ОРФ большого размаха,
FG — множество всех ОРФ, являющихся рекурсивными подстановками.
Функция <р называется рекурсивной подстановкой, если, она ОРФ,
разнозначна и множество ее значений есть весь натуральный ряд.
В настоящей работе доказывается, что подклассы функций Fl9 F2,
F3, F±, Fb, F6 и некоторые другие, связанные с ними, не имеют
универсальной ОРФ.
Далее выделяются некоторые подклассы функций, для которых
существует универсальная ОРФ.
243

Определение 1. Подкласс S ОРФ мажорируется ОРФ /, если для
каждой ft(*S найдется х0 £ /V, такое, что для всех х^>х0 Д(#)^/ (x).
Определение 2. Пусть S и S^ — подклассы ОРФ. Если для всякой
/у 6^i существует f4 (*S и бесконечное множество А а N, такие, что:
(tfxeAlfiW^fji*)]* то S слаб° мажорирует Sv
Лемма 1. а) Если подкласс S ОРФ имеет универсальную ОРФ,
то S мажорируется некоторой функцией (ОРФ).
б) Если подкласс S± слабо мажорирует класс всех ОРФ, то S± не имеет
универсальной ОРФ.
Доказательство а) Пусть <р (х, у) — универсальная ОРФ
для S. По ней построим функцию / (у), которая будет мажорировать S.
f {у) = max [<p (i, ;)].
Пусть fj(*S и пусть у(т, y) = f.(y). Из построения f(y) следует, что
для всех у^>т
fj(y)<f(y)-
б) Если бы S± имел универсальную ОРФ ср (х, у), то в силу пункта
а) #! мажорировался бы некоторой ОРФ — /. Так как / мажорирует Sl9
то при всяком х £ N найдется у £ N, такое, что для всех у > у
Рассмотрим функцию /х (y)=f (г/) + 1- Очевидно, /х — ОРФ, а так как 5^
слабо мажорирует (по условию леммы) класс всех ОРФ, то найдется т £ N
и такое бесконечное множество А с N, что
(i^l/i 00 <?("*. ?)]• (!)
С другой стороны, так как / мажорирует Sv то
^(^.[fK »)</(?)]■ (2)
Возьмем какое-нибудь у2^>ух и г/2б^>" тогда в силу (1) и (2) имеем
откуда /х (уа) < / (г/а). В то же время Д {yj=f (г/а) + 1. Полученное
противоречие доказывает лемму.
Теорема 1. Подклассы функций Fx—F6 и их дополнения до класса
всех ОРФ не имеют универсальной ОРФ.
Сначала докажем утверждение для классов F1—F4. Очевидно, F2
слабо мажорирует класс ОРФ. В самом деле, если / — любая ОРФ, то
X
f (х) = 2 (/(0 + 1) мажорирует / и /£ ,Р2. В силу леммы 1 F2ne имеет уни-
*=о
версальной ОРФ. Подклассы Ег и F3 содержат F2 и, значит, тоже слабо
мажорируют класс всех ОРФ. В силу леммы 1 Fl9 F3 не имеют
универсальной ОРФ.
Теперь докажем утверждение для F4. Каждая общерекурсивная
функция / представима в виде: / {х) = 1 (^у(<р {х, г/)=0)); I, <р — примитивно-
244

рекурсивные функции. Согласно теореме Сколема функция ру [ср (х, у)=01
имеет примитивно-рекурсивный график; и I (х) ^ х при любом х.
Следовательно, / (х) мажорируется функцией {^[<p (#, г/)=0], которая имеет
примитивно-рекурсивный график. В силу леммы 1 класс функций F4
не имеет универсальной ОРФ.
Докажем утверждение для Fb и F6. Пусть /0 £ Fb и /0 на множестве
всех четных чисел принимают каждое натуральное число в качестве своего
значения бесконечное число раз. Пусть F2 = {f4}, &' = 0, 1, 2, .. .; Sx=-
= {/<} « = 0, 1, 2..., где
f /< 0*0» если # — нечетное,
Ji\ ) |д^^ если х — четное.
Очевидно, f4QF5 при £ = 0, 1, 2, ... . Так как fi(x) = fi(x) для всех
нечетных чисел, то Sx слабо мажорирует класс ОРФ. По лемме 1 F5
не имеет универсальной ОРФ.
При доказательстве утверждения для FQ используется конструкция,
аналогичная той, что и для Fb. Рассмотрим пары разнозначных ОРФ
{/♦•; /,}, такие, что
U mufj (N2) = N; /, (Njnfj (N2) = 0,
где N± — все нечетные числа, N2 — все четные, / (Б) — множество
значений функции / на множестве В. Для каждой такой пары {f4; fj) определим
рекурсивную подстановку а (х):
(/*• (х), если х — нечетное,
а(х) = ' ,'* (3)
{fj(x), если х — четное.
Какова бы ни была строго монотонная функция fi (x) ^ 2х, существует
разнозначная функция fj, такая, что пара {Д., fj) удовлетворяет условию (3).
Поэтому семейство рекурсивных подстановок слабо мажорирует класс
всех ОРФ и, следовательно, не имеет универсальной ОРФ.
Аналогично доказывается, что дополнения рассмотренных классов
функций до множества общерекурсивных не имеют универсальной ОРФ.
Легко видеть, что всякий класс функций, содержащий какой-нибудь
из подклассов Fx—F6 или CFX—CF6, не имеет универсальной ОРФ (где
CF{ — дополнение Fi до множества всех ОРФ).
Во всех рассмотренных случаях семейства функций содержали
функции, которые на выделенном бесконечном множестве растут быстрее
любой наперед заданной ОРФ. Естественно попытаться ограничить рост
функций и выяснить, как это будет влиять на существование
универсальной ОРФ в этих семействах.
Мы будем следующим образом ограничивать рост функций.
Определение 3. Пусть / — общерекурсивная функция,
/-сечением в классе функций S назовем максимальное семейство из S,
мажорируемое функцией /, т. е.
/, 6 /-сечению S^Zy {х)х>у [/, (х) </(*)&/,€ Я
Далее рассматриваются /-сечения в классах функций Fs, Fly F2, а также
в Ft, Ftr\Fv Ftr\Ft, Ftr\Fa.
245

Теорема 2. Любое f-сечение в классе Fb не имеет универсальной ОРФ-
Доказательство. Если /-сечение в классе Fb пусто, то оно
не имеет универсальной ОРФ. Пусть теперь /-сечение в Fb не пусто и ф
лринадлежит /-сечению в Fb. Докажем, что оно не имеет универсальной
ОРФ. Предположим противное. Пусть A = {xity (хУ=0); B={x/ty (x) = l).
Легко видеть что А ж В — бесконечные рекурсивные множества. Пусть
В =^ВгиВ2у ВгГ)В2= 0 и Bv B2 — бесконечные рекурсивные
множества. Дл# рекурсивных подмножеств: {Bl2}, i=0, 1,2,.. ., из В2
определим семейство функций: {/J, i=0, 1, 2, 3. . ., полагая
(Ф(а
ф(#), если х£СВг2,
если х £ В\.
Очевидно, {Д.}, £=0, 1, 2, 3, . . ., есть подсемейство Fb, которое
принадлежит /-сечению в классе Fb. /-сечение в Fb, по предположению, имеет
универсальную ОРФ и функция <р (х, у) перечисляет его. Тогда срх (#, у) =
=sg [<р (#, у)Хх (*/)]есть универсальная ОРФ для всех
характеристических функций рекурсивных подмножеств В2 (где х (у) —
характеристическая функция для В2). Но <рх (х, у), как известно, не может быть
общерекурсивной. Полученное противоречие завершает доказательство теоремы
в случае, когда /-сечение в классе Ръ непусто.
Перейдем к рассмотрению /-сечений в классах Fv F2. Пусть Af =
= {х I {y)y>x [/{#)>/(#)]&[/(#)>0]}. Для /гсечений в классе/^ имеет место
Теорема 3. f-сечение в классе Fx имеет универсальную ОРФ тогда
и только тогда, когда А. конечно или имунно.
Доказательство. Пусть Af не является ни конечным, ни имун-
ным множеством, любое BdAf — бесконечно и рекурсивно и О^В.
Рассмотрим функцию
[ 0, если # = 0,
!{Х)= 2х(</),если*^0, <4>
где х(у) — характеристическая функция В, / — ОРФ монотонная и
мажорируется функцией /. Монотонность / следует из (4). Индукцией по х
докажем, что / мажорируется функцией /.
Очевидно, /(0) = 0, так что /(0)^/(0). Кроме того, f (i) = 0 для всех
i<^xv где хг — наименьшее число, для которого x(xi) = l-
Пусть для всех х^.хк (где хк есть наименьшее число t, для которого
/(£) = &) доказано, что /(x)^f(x). Тогда это неравенство верно для х,
таких, что хк<С,х^хк+1 (где хк+1 = р,Д^(^) = 1 &f>xk]). Возьмем
произвольное ху такое, что хк<^х<^хк+1. Тогда f($) = f(xk) в силу (4), а
/ (х)^ / (хк) — в силу определения Af. Отсюда в силу индуктивного
предположения следует, что / (x)^f (х). В точке хк+1 f (xk+1)^> f(xk). Вместе
с f{xM)=f{xk) + U /(**)</(**) имеем ?(xk+1)^'f(xk+1).
Рассмотрим семейство всех характеристических функций для
рекурсивных подмножеств из В, Обозначим это семейство
Ы, « = 0,1,2,3,... (5),
а через х (у) — характеристическую функцию множества В,
2AJ3

Для всех х: %.(х) ^ % (х), где £ = 0, 1* 2, 3 . .. По семейству {у,},
i = 0, 1, 2, 3 ... построим семейство {/J, £ = 0, 1, 2, 3 . . ., где
Семейство {/,.} £ = 0, 1, 2, 3... принадлежит /-сечению в классе Fl7
так как / мажорирует f. при всяком натуральном i, а / мажорирует /.
Допустим, /-сечение имеет универсальную ОРФ — ср (а:, у).
Рассмотрим функцию:
i 0, если г/ = 0,
<Pi(*> I/)= ( gg[?{x9 y)^?{Xj y^i)U если */^0.
Из доказанного выше следует, что всякая ^ (х) из семейства (х»}>
t=0, 1, 2, 3. . ., принадлежит семейству, перечисляемому срх (а:, г/).
Рассмотрим функцию ср2 (а:, г/) = срх (#, г/)Ху (г/), где у (г/) —
характеристическая функция множества В, Очевидно, ср2 (х, у) будет универсальной
ОРФ для всех характеристических функций рекурсивных подмножеств В.
В то же время известно, что такой функции не существует. Итак, наше
допущение о существовании универсальной ОРФ неверно.
Если Af — конечно, то существует а £ N, которое входит в
последовательность / (0); / (1); / (2); . . . бесконечное число раз. Пусть аг —
наименьшее из таких чисел. Тогда /-сечению в классе Fx принадлежат все
такие и только такие монотонные функции, которые стабилизируются
на значении, не превосходящем аг (т. е. начиная с некоторой точки
принимают постоянные значения, не превосходящие ах). Множество всех таких
функций легко занумеровать эффективно (например, через кортежи
значений функций до точки стабилизации) и таким образом построить
универсальную ОРФ.
Если Af — имунно, то /-сечение в классе Fx состоит из всех конечно-
значных монотонных функций, а их можно занумеровать так же, как и
выше. Теорема 3 доказана.
Теперь рассмотрим подкласс F2. Если /-сечение в F2 не пусто, то
f (x) ^ х для всех х, начиная с некоторого. Так как изменение конечного
числа значений функции / не влияет на состав /-сечения, то можно
считать, что
(*)(/(*)>*). (6)
Тогда f(x) — x = f(x) — х, f (x) = (/ (х) — х) + х. Пусть / удовлетворяет (6)
и 9г(х) = /• (х) ~ х* Поскольку /t. £/-сечению F2 тогда и только тогда,
когда cpt. принадлежит ср-сечению Fx (где ср (х) = / (х) — х), то верна
теорема 4.
Теорема 4. Непустое f-сечение в F2 имеет универсальную ОРФ
тогда и только тогда, когда у-сечение в Fx (где y(x) = f (x) — х) имеет
универсальную ОРФ,
Рассмотрим теперь /-сечения в классах F4, F4 f| ^v ^4 П ^2» ^4 П ^з-
Теорема 5. Любое сечение в классах Fiy F±r\Fv F^f]F2, F^f[Fz
имеет универсальную ОРФ,
247

Доказательство. Согласно теореме Сколема функция /имеет
примитивно-рекурсивный график тогда и только тогда, когда
(где ср(#> у)— примитивно-рекурбивная функция).
Определим операцию /-ограниченной минимизации:
М?(*. У) = °Ъ если (zW3mM2> m) = 0Scf(z)^m}9
м/(#) = .
* [0 — в остальных случаях,
где х обозначает кортеж: <(хи . .., хку. Для тройки <(/; х; g)>, где f;g —
функции, х ^ N, введем операцию склеивания (склейки) функций
если а: < ж,
если х^>х.
Рассмотрим /2 (ж, у) = МЛ где <р — универсальная ОРФ для класса всех
примитивно-рекурсивных функций. Пусть
?*(*» У) = [?г (См И, У)," ^(х); /а(Сзз(ж), у)],
где срх — универсальная ОРФ для одноместных примитивно-рекурсивных
функций, ас13 (ж), с23 (ж), с33 (ж) — канторовские нумерационные функции.
Тогда <р2 (ж, г/) и есть универсальная ОРФ для /-сечения F±. Для
завершения доказательства теоремы 5 нам потребуется следующее определение
л лемма.
Определение 4. Подсемейство S1 семейства функций S назовем
эффективным, если для каждой /а (< 5\5/ эффективно найдутся такие
ха ^ N и g(x)£S, что
1) по fa(xa) можно эффективно узнать, что fa£S\Sl;
2) склейка [/а, #а, g] принадлежит S1.
Лемма 2. £Ъш S имеет универсальную ОРФ, то любое эффективное
подсемейство и его дополнение до S тоже имеют универсальную ОРФ.
Доказательство. Пусть <р (#, У) — универсальная ОРФ для
S, S' — эффективное подсемейство в S, S" = S\S'.
По функции <р (х, у) построим следующим образом функцию срх (х, у).
Зафиксируем произвольно точку х = х0 и рассмотрим функцию <р(#0, у) —
переменного у.
Если <?(х0, y)QS\S!, то в силу эффективности S1 в семействе S
найдутся такие у0 и g(y), что по <?(х0, у0) можно узнать о принадлежности
<р(я0, у) к S\S' и [<р(х0, у); у0; g(y)]£Sf.
Тогда полагаем
<Pi(*<» У) = [<?(хо> УУ> У& ?(y)J-
Если ^(^о» y)dS!i T0 полагаем
<Pi(*o> #) = ?(*<)> */)•
Легко видеть, что срх (ж, у) является универсальной ОРФ для S'*
Остается заметить, что множество номеров всех функций из S" в
нумерации <р рекурсивно перечислимо, поэтому оно имеет универсальную ОРФ.
248

Продолжим доказательство теоремы 5. Так как /-сечения в F^ имеют
универсальную ОРФ, а /-сечения в F4 П Р\\ ^4 П Р^ ^4 П ^з являются
эффективными подсемействами в /-сечениях F^ то все они имеют
универсальные ОРФ и теорема 5 доказана.
О вычислимых семействах
рекурсивно-перечислимых множеств
Подкласс S класса рекурсивно-перечислимых множеств (РПМ)
обладает вычислимой нумерацией, если существует такая ср (х, у) —- ОРФ,
для которой выполнены условия:
1) для всякого множества Е £ S найдется т £ N, такое, что
множество значений функции <р (т, х) есть Е;
2) для всякого тг £ N множество значений функции <р {тг, х) от
переменного х есть множество из S.
Известно, что такие классы множеств, как примитивно-рекурсивные,
рекурсивные, рекурсивно-перечислимые имеют вычислимую нумерацию.
Для многих из известных подклассов удается решить вопрос о
существовании вычислимой нумерации с помощью теоремы 6, доказываемой ниже.
В частности, не имеют вычислимой нумерации (невычислимы) следующие
подклассы класса РПМ:
Sx — подкласс бесконечных рекурсивных множеств,
52 — подкласс бесконечных рекурсивно-перечислимых множеств,
53 — подкласс бесконечных примитивно-рекурсивных множеств,
54 — подкласс всех простых множеств,
Sb — подкласс BGex m-универсальных множеств,
S6 — подкласс всех мезоичных множеств.
Определение 5. Пусть А — бесконечное множество и / —
строго монотонная функция, определенная на всем N. Если / (N)=A,
то говорят, что / есть прямой пересчет множества А. (Символ / (N)
обозначает множество значений / на N.) Пусть а — подкласс бесконечных РПМ;
для каждого множества А £ а построим fA, его прямой пересчет.
Множество всех таких функций обозначим через Sa.
Теорема 6. Если Sa мажорирует класс всех ОРФ и если а состоит
только из бесконечных множеств, то а невычислим.
Для доказательства нам потребуются следующие две леммы:
Лемма 3. Если а — подкласс бесконечных РПМ вычислим, то
существует такая перечисляющая его ОРФ <р (х, у), что для всякого х, если
Уг^Уг, то V (х, #i)=N (*, Уг)-
Лемма 4. Если Д и /2 две разнозначные ОРФ, перечисляющие одно
и то же множество, то существует бесконечное множество А С N,
такое, что {х)хеА [ft (x) > /2 (*)].
Ввиду очевидности лемм доказательство их опускается.
Доказательство теоремы 6. Предположим, что а
вычислим; по лемме 3 существует такая ОРФ <р (х, у), перечисляющая а,
что <р (х, у) разнозначна при любом фиксированном х. Так как Sa
мажорирует класс всех ОРФ, то семейство функций (<р (х9 y)}£eN по лемме 4
слабо мажорирует класс всех ОРФ. Поэтому <р (х, у) не может быть
общерекурсивной функцией.
249

Следствие. Подклассы S±—S6 невычислимы. Действительно,
Sa для Su 52, Ss мажорирует класс всех ОРФ и поэтому указанные
подклассы невычислимы, так как при а = Sx подкласс Sa совпадает с F2,
а при g = S2 — SaZ)F2. Докажем утверждение для S3. Известно, что
класс F2 П F4 мажорирует класс всех ОРФ. Пусть / — любая ОРФ, а
функция <р £ F2 П F± мажорирует /. График <(#, <р (#))> функции <р есть
примитивно-рекурсивное множество.
Пусть с (#, у) — канторовская функция. Тогда множество с <#, ср (#))> —
примитивно-рекурсивно, ac(i, ср (х)) — его прямой пересчет. Очевидно,
с (х, ср (х)) мажорирует ср, откуда в силу предположения о ср (х) —-
функция с (х, ср (х)) мажорирует /.
Пусть ср (х, у) —- универсальная ОРФ для всех
примитивно-рекурсивных функций и пусть {/J i £ N — семейство всех строго монотонных
функций, таких, что: (x)(i) [f. (x) !> 2х]. Исходя из ср (х, у) и Д., построим
.функцию,,: 9t{x) = f{x, Мт <*,„)>/,(*))). (7)
Очевидно, ср^ — частично рекурсивная функция при всяком i. Докажем,
что множество значений ср^ — простое. Обозначим его через А4. Из
определения npocTQro множества вытекает, что рекурсивно-перечислимое
множество, имеющее бесконечное дополнение и пересекающееся с каждым
бесконечным рекурсивно-перечислимым множеством, является простым.
На отрезке [0, 2х] содержится не более х чисел-значений функции -<pt.
при i £ N, — следовательно, дополнение А{ — бесконечно. То, что А4
пересекается с любым бесконечным рекурсивно-перечислимым множеством,
следует из (7). Итак, Ai — множество простое при i £ N. Докажем, что
прямые пересчеты множеств, {<р^ (N)} i^N мажорируют класс всех ОРФ.
Пусть Ф; — прямой пересчет А{ — ^г (N). Тогда ср, (х) !> fi (x) при любом i.
Откуда следует,.что семейство простых множеств невычислимо.
Фактически доказано больше, а именно что семейство простых множеств, не
являющихся гиперпростыми множествами, невычислимо и что любое
расширение семейства путем добавления бесконечных множеств невычислимо.
Если А—т — унивэрсальное множество, / — разнозначная ОРФ,
то / (А) — тоже 7гс-универсально. Рассмотрим все /-образы А при / £ F2.
Прямой пересчет / (А) мажорирует /. Следовательно, семейство иг-универ-
сальных множеств невычислимо.
Если а — рекурсивная подстановка и А — мезоичное множество, то
а (А) тоже мезоично. Рассмотрим такое В, что В С А и СВ —
бесконечное рекурсивное множество (так как А не простое, то такое В существует).
Какое бы ни было бесконечное рекурсивное множество С, имеющее
бесконечное дополнение, найдется рекурсивная подстановка а, такая, что
а (В)-=С. Если мы рассмотрим все а-образы В, где а пробегает мнoжeqтвo
всех рекурсивных подстановок, то прямые пересчеты а-образов В будут
мажорировать класс всех рекурсивных функций. Так как из А С В
следует, что а (А) С а (В), то прямые пересчеты а-образов А тоже
мажорируют класс всех ОРФ. Значит, класс мезоичных множеств невычислим.
ЛИТЕРАТУРА
1. А. И. Мальцев. Алгоритмы и рекурсивные функции. М., 1965.
2. С. Kauhu. Введение в метаматематику. ИЛ, 1957.

Е. А. ЩЕГОЛЬКОВ
УНИФОРМИЗАЦИЯ МНОЖЕСТВ НЕКОТОРЫХ КЛАССОВ
Введение
Задача униформизации множеств возникла в связи с проблемой
неявных функций. Эта последняя состоит в исследовании области
определения неявной функции и выделении однозначной функции,
удовлетворяющей неявным условиям. В работах Н. Н. Лузина и П. С. Новикова этой
проблеме была придана простая геометрическая форма, благодаря чему
ее решение привело к исследованиям проекций множеств и их
униформизации. Впоследствии эти исследования получили самостоятельное
значение в связи с изучением проективных множеств.
Пусть Оху — плоскость в эвклидовом пространстве. Множество
Е С Оху называется униформным по оси Оу, если всякая прямая х = const
пересекает множество Е не более чем в одной точке.
Множество Е униформизирует плоское множество Q, если Е С Q,
проекция Е на Ох совпадает с проекцией Q на Ох и Е униформно по оси
Оу. Под униформизацией плоского множества Q понимается построение
индивидуального униформизирующего множества Е или доказательство
его существования. При этом существенным является исследование
природы этого множества в зависимости от того, какому классу принадлежит
множество Q.
Проблема униформизации множеств исследовалась в трудах Н. Н.
Лузина, П. С. Новикова, А. А. Ляпунова, В. Серпинского, М. Кондо и
других. Из результатов, полученных в этом направлении, укажем
следующие.
1. Всякое плоское В-множество униформизируется посредством СА-
множества (Н. Н. Лузин [10]; В. Серпинский [4]).
2. Если плоское 2?-множество Е пересекается с прямыми х = const
по множествам не более чем счетным, то проекция Е на Ох есть 2?-множе-
ство и Е униформизируется посредством 2?-множества (П. С. Новиков, [2 ]).
3. Если плоское 2?-множество Е пересекается с прямыми х = const по
замкнутым множествам, то проекция Е на Ох есть В-множество и Е
униформизируется посредством 2?-множества (П. С. Новиков, [10]).
4. Если плоское 2?-множество Е пересекается с прямыми х = const
по множествам типа Fa9 то проекция Е на Ох есть 2?-множество (В. Я.
Арсении [10]) и Е униформизируется посредством 2?-множества (Е. А. Ще-
гольков, [10]).
251

5. Существует плоское В-множество, проекция которого на Ох есть
отрезок [0, 1 ] и которое не униформизируется посредством В-множества
(П. С. Новиков, [2]).
6. Всякое плоское С-4-множество униформизируется посредством СА-
множества (М. Кондо, [7]).
7. Всякое плоское Л2-множество униформизируется посредством А2-
множества (М. Кондо, [7]).
Настоящая статья является продолжением работы [14]. Она содержит
обобщения некоторых результатов, доказательство основной теоремы,
объявленной в [14] (см. теорему 2 этой статьи), а также новые
результаты.
Рассматриваемые задачи униформизации были поставлены Петром
Сергеевичем Новиковым. Обозначения и терминология взяты из [10].
§ 1. Система D
Рассмотрим эвклидово пространство. Координатные плоскости-обозна-
чим через Оху, Oyz, Oxz, а множества точек осей координат через Ох и Оу.
Не ограничивая общности, предположим, что все плоские множества
заключены в единичном квадрате 0 <С # ^ 1; 0^г/^1. Множество его
точек обозначим через /. Замкнутой полосой, обозначаемой / (а, Ь),
называется множество точек единичного квадрата, ординаты которых
удовлетворяют неравенствам а ^ у ^ Ь, где а и Ъ — некоторые
[действительные числа 0 ^ а < Ъ ^ 1.
Пусть D — некоторая система множеств. Обозначим через С (D)
систему дополнений к множествам из D до всего пространства и через
В (D) — систему множеств, принадлежащих одновременно D и С (D).
Если множество Е принадлежит системе D, или С (D), или В (D), то мы
будем говорить, что Е является соответственно /^-множеством, С (D)-
множеством, В ф)-множеством.
Рассмотрим систему D, удовлетворяющую следующим условиям.
I. D включает в себя все 2?-множества и инвариантна относительно
операций счетного суммирования и счетного пересечения.
П. Если Е линейное /^-множество (Е С Ох), то декартово
произведение ЕхОу есть плоское /^-множество.
III. Для С (2))-множества выполняется первая теорема кратной
отделимости, т. е. если последовательность С (/?)-множеств {Нп}
удовлетворяет условию Г) Нп= 0, то существуют В(2))-множества {&„}, такие,
что £WZ>#W и П Sn=0.
Условиям I—III удовлетворяют следующие системы множеств: класс
СЛ-множеств; класс Л2-множеств (второй проективный класс); класс А2-
множеств (этот класс введен и исследован А. А. Ляпуновым в его работе
[9], он составляет часть класса А2-множеств). Доказательства того, что
указанные классы множеств удовлетворяют условиям I—III, содержатся
в работах [1, 3, 9, 10].
Из условий I—III следует (см. принцип редукции Куратовского, [6]).
252

IIP. Если последовательность .D-множеств {И J такова, что U Нп = &
есть В {/)}-множество, то существуют В (2))-множества {£„}, такие, что
Sn(ZHn; g.nSj = 0 (при i^j) и U <Sn = S.
В самом деле, рассмотрим С (/?)-множества § П СНп. Их пересечение
пусто: Г) (ёГ)СНп) = £Г\С U Ня = £ПС£ = 0. По свойству III суще-
ствуют В (-О)-множества {Еп}, такие, что EnZD & Г\СН„ и П Еп—0.
neN
Положим gn — gf\E1r\ . . . П #и-1 П СЕП. По свойству 1 все S„ суть
J5 (/?)-множества.
1) SnClHn; действительно, так как EnZ)SC{CHn, то CEn<zCg\JHn;
Sn(ZSnCEnciS(CS\jHn) = Hn.
2) (J gn=.g; действительно, (J <£ЯС(§\ обратно, пусть х0££, так как
П Як=0, то
*е" *€£-П ЯЯ = £П U <?£„•
Пусть /с — наименьшее число, такое, что х £ СЕк, тогда х £ 2?х П ... П Ек_г
и, следовательно,
3) £,. П <?/ = 07 если i =^=j. Действительно, пусть i </, тогда SfHSj =
= <?П^1П ... П^мПСЗДЯ,... n^y-inC^y = 0. IIP -доказано.
Плоское /)-множество £ называется элементарным /^-множеством,
если оно пересекается с прямыми х= const по замкнутым множествам и
проекция на ось Ох части Е, содержащейся в произвольной замкнутой полосе
/ (а, Ъ), есть /)-множество.
Замечание. Проекция на ось Ох плоского элементарного
^-множества есть /^-множество.
Лемма 1. Если плоское D-множество Е пересекается с прямыми
х = const no множествам, каждое из которых есть объединение конечного
числа отрезков и конечного числа точек с рациональными ординатами, то
Е есть элементарное D-множество.
Достаточно показать, что проекция на Ох части Е, содержащейся
в произвольной полосе / (а, Ь), есть /^-множество. Проекцию на Ох
пересечения Е f]I (а, Ъ) обозначим через Прж [Е f]I (а, Ь)]. Пусть Ра
обозначает множество точек, лежащих на прямой у = а. Тогда
Пр, [Е П / (а, Ь)] = U ЩХ[РГ П Е П / (а, 6)1 U Щх (Р. П Щ U Щх {Рь П Я),
где суммирование производится по всем рациональным числам г (O^r^l).
В силу свойств I и II множества Paf)E ftl (a, b) и Пр,ДРа f| £Т|^(я, &)]
при любом а будут /^-множествами. Лемма доказана.
Лемма 2. Пересечение конечной или счетной совокупности
элементарных D-множеств есть D-множество.
Рассмотрим сначала пересечение двух элементарных /^множеств Е1
и Е". Положим Е = Е!Г)Е". Очевидно, что Е пересекается с прямыми
х = const по замкнутым множествам. Покажем, что ТЬрЛ\Е[\1 (а% Ь)] есть
253

/^-множество. Обозначим через 1пк замкнутую полосу /(—™—> ^\ где
1 ^ & ^ 2W, к и п — целые положительные числа.
Положим
£*=np,(£'n/rt),
Гпк и Гпк суть /^-множества.
Положим
Кь = (1'пкХОу)Г)1„к,
K=UE'„k, К=иКк-
к к
Из условий I и II следует, что Е'п и Е"п суть /^-множества.
Очевидно, П Е'п = Е1 и ПК — Е"> причем
Положим £Я = ^П-*С Тогда
ns„= п#;ппс=£»
где ^D.. .D(£„2- .. и все £я суть /^-множества.
Из построения видно, что пересечение плоского множества <§п со всякой
прямой х = const состоит из конечного числа отрезков и, может быть,
конечного числа точек с рациональными ординатами.
По лемме 1 все <§п — элементарные /^-множества.
Имеем: Е{\1 (а, Ь)= fl(£wfV(a, b)). Так как множества 8яГ)1(а, Ь)
nEN
при 7г = 1, 2,. . .образуют убывающую последовательность и пересекаются
с прямыми х = const по замкнутым множествам, то проекция на Ох
их пересечения совпадает с пересечением их проекций.
Пр.[ЯП/(«. Ь)]= П ПРж[£яП/(а, Ь)],
где ПрЛ[(£яГ|^(#> &)] суть /^-множества.
По условию I отсюда следует, что Нрх[ЕГ\1(а9 Ь)] есть /^-множество.
Тем самым доказано, что пересечение двух элементарных /)-множеств
есть элементарное /^-множество.
Методом индукции по натуральным п легко показать, что пересечение
любого конечного числа элементарных £)-множеств есть элементарное
/^-множество.
Рассмотрим счетную последовательность элементарных /^-множеств {Еп}*
Положим Е'я = ЕгГ)ЕгГ\... Г\Еп> Т0ГДа ПЕн= П #„> где все Еп — эле-
ментарные D-множества и Е[ ZD... ZD Еп ZD<... Поэтому
Пр.[/(о, Ь)ПП^В] = ПРЛП (/(а, &)№)] = ППр.[/(а, Ь)Г)Е'п],
где последнее множество есть /^-множество. Лемма доказана.
254

§ 2. Униформизация в системах D
Л е м м а 3. Плоское элементарное D-множество, проекция которого на Ох
есть С'(D)-множество, униформизируется посредством В (П)-множества.
Пусть Е — элементарное /^-множество и £ = Пр^ (Е). & по условию
есть С (2))-множество, с другой стороны, по замечанию § 1 оно есть ZJhmho-
жество. Следовательно, & есть В (/?)-множество.
Разделим единичный квадрат / на две замкнутые полосы
/ц = /(0, 1) и /и = /(4, 1).
Так как Пр^ЯП^пЮЩ^^ПЛг)^^» гДе °ба слагаемых в левой
части суть /^-множества, а их сумма есть В (2))-множество, то по
условию IIP существуют два В (2))-множества §г1 и <£12, такие, что
Положим
£иСПр,(ЯП СПр,(ЯП
<£ц П (?12=0 И <§\1 U <?12 = <£-
Иц = (<§п X О») П hv Щ& = (<?м X Оу) П /ш
их есть 2? (£))-множество, такое, что Пр^ (иг) = &, и если х0 £ £,
то прямая х = х0 пересекает иг точно по одному отрезку, отсекаемому
на этой прямой одной из полос 1п или 112. Этот отрезок содержит точки
множества Е.
Допустим, построено плоское В (/?)-множество и^, такое, что Прл.(иж_1) =
= £ и если х0 ^ £, то прямая х = х0 пересекает иПт1 точно по одному
отрезку, отсекаемому на этой прямой одной из 2я"1 полос
/,-1,* = /(-^Г, -£=г), где k=l, 2, .... 2-1.
Указанный отрезок содержит точки множества Е. Разделим единичный
квадрат / на 2п замкнутых полос Ink = It ———, —J и положим Тпк =
= 1иРх(ЕП1„к)ХОу]П1пк. Все rwfc суть ^-множества.
Обозначим через Ряй. прямую, параллельную оси Ох и проходящую
через середину интервала "Г <] г/<С'о^г.
Положим i?„fc = nP,(P„fcn^n«„-i)- Все Ял(* = 1, 2, .... 2я) суть
/)-множества. Из определения Ляй. и построения Тпк и и^ следует, что
х0(<Ипк тогда и только тогда, когда отрезок прямой х = х0, отсекаемый
полосой 1пк, целиком содержится как в множестве Тяк9 так и в
множестве ип_1.
Докажем, что
\jR„k = S.
к
Пусть x0(<Rnk, тогда отрезок прямой х = х0, отсекаемый полосой 1пк>
принадлежит множеству Тпк, но такой отрезок обязательно содержит точки
из Е. Следовательно,
x0£lIVx(E) = g и U*rtC£.
к
255

Пусть теперь х0£§, тогда по предположению, высказанному
относительно множества u^lf прямая х = х0 пересекает и^г в точности по одному
отрезку, отсекаемому на этой прямой одной из полос I^lt к. Этот отрезок,
обозначим его через ^itk , содержит точки из Е. Из 2п отрезков 8яй.(& = 1,
2, ..., 2я), по которым прямая х = х0 пересекает полосы Lnk, два в сумме
составляют отрезок Ъп_г к , и, следовательно, по крайней мере один из этих
двух отрезков имеет не пустое пересечение с множеством Е.
Пусть Ьпк —один из этих отрезков, содержащий точки из Е. Тогда
\ч С §„_!, ч С iVi- кР°ме того, очевидно, \ч С Т^. Следовательно,
bnki С Tnki П и»_1» а Т0ГДа хо€ЯПк} и £ С \JRnk. Этим доказано равенство (1).
Так как в равенстве (1) все Rnk суть /)-множества, а их сумма & есть
В (2))-множество, то по условию III' существуют В (2))-множества {§пк},
такие, что £„fc С #„fc дляЛ = 1, 2, .. ., 2п enin8nJ=®(i¥*i)* USnk = S>
к
Положим
и«* = (<?«* X 0у) п *,*; и. = U ип„
к
ип есть Б (2))-множество, такое, что Пр^ (ип) = <§, и если х0£<§, то прямая
х = х0 пересекает ип точно по одному отрезку, отсекаемому на этой прямой
одной из полос 1пк. Этот отрезок содержит точки из множества Е и сам
содержится в un_v так что ип С un_v Действительно, так как все <§пк(к = 1,
2, ..., 2к) попарно не пересекаются, то прямая х = х0 пересекает
множество ип только по одному отрезку. Так как х0 £ &пк С Rnk, то
упомянутый отрезок содержится как в множестве Тпк, так и в множестве ип_х
и, следовательно, содержит точки множества Е и сам содержится в
Un-V
Так как ранее построенное множество щ удовлетворяет всем
требованиям, наложенным на множество ип_г, то, принимая во внимание
построение множества ип, мы сможем построить последовательность плоских
В (/))-множеств иг Z) u2 Z). .. ZDun Z). . ., таких, что при всяком п Пр^, (ип) = <§,
и если х0 £ <§, то прямая х = х0 пересекает множество ип по вложенным
друг в друга отрезкам, длины которых стремятся к нулю с
возрастанием п. Отсюда следует, что В (2))-множество и= f]un униформизирует
множество Е. В самом деле, Пр^ (и) = § и множество и униформно по оси Оу.
Покажем, что u(Z Е. Пусть М (х0, у0) £ и, тогда точка М (х0, х0)
принадлежит всем отрезкам, по которым прямая х = х0 пересекает множества ап.
Так как длины этих отрезков стремятся к нулю и все они содержат
точки множества Е, то точка М (х0, у0) будет предельной для
пересечения Е с прямой х = х0. Но это пересечение является замкнутым
множеством и, следовательно, точка М (#0, у0) (<Е. Лемма доказана.
Более общим утверждением является
Лемма 4. Если плоское множество Е есть объединение конечной
или счетной совокупности элементарных D-множеств и проекция Е на Ох
есть С (Р)-множество, то Е униформизируется посредством В (D)-mho-
жества.
256

Пусть Е = (J Еп, где все Еп — элементарные /^-множества и § = Лр^. (i?)
есть С(£)-множество. Тогда
Щх (Е) = UVx(\J Еп) = U Пр, (Еп),
где все Пр^.^) суть D-множества.
Следовательно, £= U Пр^^) есть В (25)-множество. ГО условию IIP
существуют В (2))-множества {<§п}, такие, что gn С Пр^. (Еп); <§Г\ gj = 0(& =^= /)
и U £* = £•
Положим Wn = (SnXOy)r\En. По лемме 1 множество <§„ХОу есть
элементарное /)-множество, а тогда по лемме 2 и JFn есть элементарное
jD-множество. Так как Прж (Wn) = &п есть Б (2))-множество, то по лемме 3 W„
униформизируется посредством В (2))-множества, которое мы обозначим
через и". В (-О)-множество и = U ип униформизирует данное мно-
nSN
жество Е. В самом деле, так как ип С Wn С EnCiE при всяком п, то
и CLE. Далее
Пр,(»)= иПр,(в-)= иПр,(РГя)= U£w = £.
юфУ я£.ЛГ w6^
Наконец, множество и униформно по Оу. Действительно, если х0 £ <§,
то в силу того, что Sif)gj= 0 при ^т4/» прямая х = х0 пересечет только
одно из множеств Wn, а следовательно, только одно из множеств ип и
притом в единственной точке. Лемма доказана.
§ 3. Униформизация В-множествами
Класс СЛ-множеств является /^-системой. Элементарным СЛ-множе-
ством называется такое плоское СЛ-множество, которое пересекается
с прямыми х = const по замкнутым множествам и обладает тем
свойством, что проекция на Ох части этого множества, содержащейся в
произвольной полосе I (а, Ъ) есть СЛ-множество.
Принимая во внимание лемму 4, получаем
Теорема 1. Если плоское множество Е есть объединение
конечной или счетной совокупности элементарных СА-множеств и проекция Е
на Ох есть А-множество, то Е униформизируется посредством В-мно-
жества.
Требование элементарности составляющих СЛ-множеств здесь
существенно.
Напомним, что порцией линейного множества называется непустое
пересечение этого множества с произвольным интервалом.
Теорема 2. Если плоское В-множество Е пересекается с прямыми
х— const no множествам, некоторая порция которых есть Fa, то
проекция Е на Ох есть В-множество и Е униформизируется посредством
В-множества.
Доказательство. Известно, что всякое плоское 2?-множество,
расположенное в плоскости Оху, есть ортогональная проекция на эту
плоскость элементарного 6?5, расположенного в пространстве Oxyz и уни-
257

формного по оси Oz [10]. Термин «элементарный» применительно к
множеству типа G8 отличается по смыслу от употребляемого в данной статье.
Элементарное G8 в пространстве есть множество вида
00 00
<?= П U «*,
к=1 я=1
где ти*— параллелепипеды к-то ранга (& = 1, 2, ..., п = 1, 2, ...), при
фиксированном к попарно не пересекающиеся, с диаметрами, стремящимися
к нулю, причем
00 00
U TUw+1 С U те£ ПРИ всяком Л.
Пусть Я-множество Е есть проекция такого множества Q. Не
ограничивая общности, предположим, что Е заключено в единичном квадрате
/. Занумеруем натуральными числами все параллелепипеды,
определяющие множество Q, и обозначим через Еп проекцию на
плоскость Оху части Q, содержащейся в п-м параллелепипеде. Тогда
Е= U Еп, где все Еп суть 2?-множества [10].
Разделим квадрат / на к замкнутых полос:
Положим
^ = 1Пр,(^.п/«)х^1п/«,
*=1 k£N
Очевидно, Еп С Р\ при всяком к. Поэтому Е С Ejfl Все РпкР Рпк и ЕМ
суть Л-множества [10]. ЕМ есть объединение замыканий множеств Еп f] Px
по всем х, где Рх — множество точек прямой х = const.
По второй теореме кратной отделимости [10] существуют СЛ-мно-
жества {Тпк}, такие, что TnkZ)Pnk\EM и П К = 0.
k£N
Рассмотрим множества
Bli = {ОуХС ПРж[1к(\(Гк + Е)]) П /м.
Плоское множество Я^. есть объединение всех тех отрезков,
отсекаемых полосою 1Ы на прямых х = const, которые целиком содержатся в
множестве Т\\ + Е. Поэтому 1Гкъ. (ZTnk-\-E при всяких к, i, п.
Положим #£= U НЬ, Нп= П #*•
Очевидно, Hi С Г£ + /?, а так как Г) 7^ = 0, то Нп (ZE при всяком
натуральном гг.
#lt, HI и Яя суть СЛ-множества. (1)
Каждое из множеств И\ пересекается с прямыми х = const по
конечному числу отрезков. Поэтому по леммам 1 и 2 все Н% и Нп суть
элементарные СЛ-множества.
258

Покажем, что
Ввиду (1)
Докажем, что
U ПРя(Я") = Пря(Я). (2)
U ПРв(Я»)сПря(Я)-
ПРж(£)с U Прж(Я"). (3)
Обозначим через Rn множество всех тех точек Е^\ которые лежат
на прямых х = const, пересекающих Е% по множествам, содержащимся
в Е. Rп С Е\р П Е. Докажем, что Rn С Нп. В самом деле, пусть точка
M(xQ, y0)^Rn- Так как RncEM = f] Р%, то, фиксируя к, получим:
k£N
1 = 1
Пусть М(х0, y0)(:Pki0. Обозначим через ЬЫо отрезок, по которому прямая х = х0
пересекает полосу Ikio. Очевидно, М(х0, у)0 £ 8*<0 С -P^v Пересечение отрезка 8Л/
с множеством Pl\E(J/) получается удалением из §kio множества Rn f] bki(i.
Но так как Rn С Е и T%ZD Рк\Е^\ то множество Г£ + £ будет
содержать отрезок 8Л1-, ибо ему возвращено все то, что было удалено до этого.
По построению множества H%io отрезок §kio вместе с точкой М (х0, у о)
будет содержаться в Hkio и, следовательно, в Нку т. е. R„dHk при
всяком к. Поэтому Rn(ZHn. Вернемся к доказательству (3). Пусть х0£
£YIipx(E). Прямая х = х0 пересекает Е по множеству, некоторая порция
которого есть FQ. Это значит, что на прямой х = х0 имеется интервал
(а, Ь), непустое пересечение которого с Е есть FQ. Обозначим его через Ф.
Пусть S — пересечение плоскости х=х0 с множеством Q. S есть плоское
элементарное Gb. Среди прямоугольников, определяющих S, найдется
такой, проекция которого на прямую х = x0t z = 0 заключена в
интервале (а, Ъ). Обозначим указанный прямоугольник через 8. Часть S,
заключенная в 8, есть элементарное Gb, обозначим его через q. Проекция q на прямую
х = xQ, z = 0, содержится в множестве Ф типа FQ. Согласно лемме, доказанной
В. Я. Арсениным [10] (лемма 5, § 14), среди прямоугольников,
определяющих множество q, найдется такой 80 с 8, что замыкание проекции
на прямую х = х0, z = 0, части д, содержащейся в 80, принадлежит
множеству Ф, следовательно, и множеству Е. Обозначим через R это
замыкание. R есть непустое замкнутое множество, лежащее на прямой х = х0,
z = 0 и R (ZE. Прямоугольник 80 есть пересечение плоскости х = х0
с одним из параллелепипедов, определяющих Q. Пусть щ — номер этого
параллелепипеда. Пересечение множества E^/J с прямой х = х0 в
плоскости Оху принадл ежит множеству Е, а следовательно, и множеству R1lo.
Но это значит, что х0 £ Пр^ (Л„0), поэтому Пр^, (Е) с U Пр^ (Rn). Так как
n£.N
R.CH', то ПРж(Дя)сПрж(Яи) и Пря(Я)с U Пря(Я"), тем самым дока-
neN
зано (2).
Рассмотрим множество Н = U Нп; Н есть объединение счетной
СОВОКУПНА
ности элементарных СЛ-множеств Нп. Из равенства (2) следует, что
Прд. (Я)=Прл. (JE), где правая часть есть Л-множество. По теореме 1 мно-
259

жество Н униформизируется посредством 5-множества, обозначим его
через и. В силу (1) Н С Е и ^-множество и униформизирует Е. Теорема
доказана.
С. Браун в работе [5] рассматривала плоские 5-множества,
пересекающиеся с прямыми х=const по линейным множествам, некоторая порция
которых не более чем счетна. Такие множества получили название некон-
денсированных множеств. Принимая во внимание сказанное, мы получаем
Следствие. Если плоское 5-множество Е пересекается с прямыми
х—const по неконденсированным множествам, то проекция Е на Ох есть
Б-множество и Е униформизируется посредством Б-множества.
Теорема 2 содержит как частные случаи предложения 2, 3, 4 (см.
введение), а также предложение С. Браун [5] о том, что проекция Б-множе~
ства, пересекающегося с прямыми #=const по неконденсированным
множествам, есть 5-множество.
§ 4. Униформизация некоторых проективных множеств
Класс ^-множеств является /^-системой. Так как проекция всякого
Л2-множества есть Л2-множество, то плоское Л2-множество,
пересекающееся с прямыми a:—const по замкнутым множествам, есть элементарное
Л2-множество. Следовательно, по лемме 4 получаем
Теорема 3. Если плоское Л2-множество Е есть объединение
конечной или счетной совокупности А2-множеств, пересекающихся с прямыми
х—const по замкнутым множествами проекция Е на Ох есть В^-множество,
то Е униформизируется посредством В ^-множества.
Класс Л2-множеств является /^-системой. Плоское Л2-множество,
пересекающееся с прямыми х—const по замкнутым множествам, есть
элементарное Л2-множество.
Теорема 4. Плоское А2-множество, проекция которого на Ох есть
В ^-множество, униформизируется посредством В ^-множества.
Пусть Е — плоское Л2-множество и Пр^. (Е) есть Б2-множество. Как
показал М. Кондо [7], множество Е униформизируется посредством А2-
множества; обозначим его через Н. Н есть элементарное А2 множество,
проекция которого Пр^ (H) = ILipx (Е) есть 2?2-множество. По лемме 3
множество Н униформизируется посредством 52-множества, откуда само Н
есть Б2-множество. Теорема доказана.
Из доказательства теоремы 4 видно, что если проекция плоского
униформного Л2-множества Е есть Б2-множество, то само Е есть
/^-множество.
Применяя конструкцию, которая была использована при
доказательстве леммы 3, без применения теоремы кратной отделимости, легко
показать, что если проекция плоского униформного Дг-множества Е есть Вп-
множество, то само Е есть Бй-множество.
Это свойство Ли-множеств аналогично свойству Л-множеств,
состоящему в том, что проекция униформного А — не Б-множества есть А — не
Б-множество.
Вопрос об униформизации С А 2-множеств не может быть решен в
направлении, аналогичном униформизации Л2-множеств.
260

Иначе говоря, для СЛ2-множеств не может быть аналога ни теоремы
М. Кондо, ни теоремы 4, как показывает следующий отрицательный
результат.
Теорема 5. Существует плоское СА2-множество, пересекающееся
с прямыми х=const no конечным множествам и проектирующееся в отрезок
[О, 1], которое неуниформизируетсяни А 2-множеством, ни
СА2-множеством.
Доказательство основано на существовании двух Л2-множеств, без
общих точек, не отделимых Б2-множествами, на которые указал П. С.
Новиков [3]. Поместим указанные два множества Т1 и Т2 на отрезке [0,1]
оси Ох. Пусть Нг — множество, расположенное на прямой г/=1/3 в
единичном квадрате / и такое, что ПрЛ {Н1) = СТ1 {СТ1 — Дополнение к Т1
до отрезка [0,1]). Аналогично, пусть Н2 —множество, расположенное на
прямой у=2/3, тоже в единичном квадрате и такое, что Пр^ (Н2) = СТ2.
Множество H=H1\JH2 есть плоское СЛ2-множество, пересекающееся
с прямыми х=const не более чем в двух точках и проектирующееся на ось
Ох в отрезок [0,1].
Покажем, что Н не униформизируется ни Л2-множеством, ни СА2-
множеством.
В самом деле, допустим, что, вопреки утверждению, множество Н
униформизируется посредством Л2-множества (или посредством С А
^множества) и. Обозначим через иг часть и, лежащую на прямой у—1/3,
а через и2 — часть и, лежащую на прямой г/=2/3. Очевидно, u1\Ju2=u
и иг С Hlt u2 С Н2.
Пусть далее Ег = Пр^ (иг) и Е2 = Пр^, (и2). Очевидно, Ег и Е2 суть А2
множества (или СЛ2-множества). Так как и униформно по оси Оу, то Ех П Е2 = 0.
С другой стороны, Ег U Е2 = Цтрх (и) = [0, 1]. Из этих условий следует,
что Ег и Е2 взаимно дополнительные множества до отрезка [0, 1], и
поэтому суть 52-множества. Из того, что ^С^ и и2 С Н2, следует, что
Ег с Пря (Нг) = СТ1 ъЕ2а Пр. (Н2) = СТ2,
а значит, Z\ С СЕг — Ег и Т2 С С#2 = ^.
Так как Б2-множества Ег и £2 не пересекаются между собой, то
множества 7\ и Г2 оказываются отделимыми посредством В2-множеств, вопреки
условию. Полученное противоречие доказывает теорему.
В работе [11 ] К. Гедель рассматривал систему аксиом теории множеств,
включающую аксиому конструктивности, названную системой 2, где
доказал совместимость с аксиомами 2 аксиомы выбора и
континуум-гипотезы.
П. С. Новиков в работе [8] рассмотрел в системе 2 некоторые
предложения дескриптивной теории множеств и доказал их совместимость
с этой системой. Дж. В. Аддисон в работе [12] продолжил рассмотрение
вопросов дескриптивной теории множеств в системе 2 и, в частности,
доказал совместимость утверждения о том, что законы отделимости в
проективных классах множеств (Ап) при п ^ 3 совпадают с законами
отделимости, установленными П. С. Новиковым [3] для второго проективного
класса. 3. И. Козлова в работе [13] распространила этот результат
Дж. В. Аддисона на законы кратной отделимости в классах (Ап). Отсюда
261

следует совместимость в системе 2 утверждения о том, что для п ^ 3
класс Ли-множеств образует /)-систему,и по лемме 3 мы получаем
непротиворечивость в И следующего утверждения.
Для всякого п ^ 3, если плоское Л^-множество Е пересекается с
прямыми #=const по замкнутым множествам и его проекция на Ох есть Вп-
множество, то Е униформизируется посредством 5^-множества.
Из непротиворечивости существования двух Ля-множеств, не отделимых
i^-множествами, и построения аналогичного доказательству теоремы 5
следует непротиворечивость в 2 утверждения:
для всякого п ^ 3 существует плоское СЛ^-множество,
пересекающееся с прямыми х—const по конечным множествам и проектирующееся
в отрезок [0, 1], которое не униформизируется ни ^-множеством, ни САп
множеством.
ЛИТЕРАТУРА
1. Н. Н. Лузин. Лекции об аналитических множествах и их приложениях. М., 1953.
2. П. С. Новиков. Sur les fonctions implicites mesurables В. Fund. Math., 17, 1, 1931.
3. П. С. Новиков. Sur la separabilite des ensembles projectifs de seconde classe. Fund.
Math., 25, 4, 1935.
4. Sierpinski W. Sur certains ensembles plans. Mathematica, Cluj, 4, 1931.
5. С. Браун (Braun S.). Quelques theoremes sur les cribles boreliens. Fund. Math.,
20, 1933.
6. К. Куратовский (К. Kuratowski). Sur les theoremes de separation dans la theorie
des ensembles. Fund. Math., 26, 2, 1936.
7. M. Kondo. L'uniformisation des complementaires analitiques. Proc. Imp. Acad.
Tohoku, 13, 1937.
8. П. С. Новиков. О непротиворечивости некоторых положений дескриптивной теории
множеств. Труды Матем. ин-та АН СССР, 38, 1951.
9. А. А. Ляпунов. О регулярно разложимых проективных множествах. Матем. сб., 20,
вып. 1, 1947.
10. В. Я. Арсенин, А. А. Ляпунов. Теория Л-множеств. Успехи матем. наук, 5, вып. 5
(39), 1950.
11. К. Гёдель. Совместимость аксиомы выбора и обобщенной континуум-гипотезы
с аксиомами теории множеств. Успехи матем. наук, 3, вып. 7 (23), 1948.
12. /. W. A ddison. Separation principles in the hierarchies of classical and effective
descriptive set theory. Fund. Math., 46, 2, 1958.
13. 3. И. Козлова. Аксиома конструктивности и кратная отделимость и неотделимость
в классах аналитической иерархии. Сибирский матем. журнал, 5, № б, 1964.
14. Е. А. Щееолъков. Об униформизации и расщеплении некоторых множеств.
Докл. АН СССР, 124, № 4, 1959.

С. В. ЯБЛОНСКИЙ
О ПОСТРОЕНИИ ТУПИКОВЫХ КРАТНЫХ ЭКСПЕРИМЕНТОВ
ДЛЯ АВТОМАТОВ
Здесь рассматривается класс автоматов, построенных из
функциональных элементов (черт. 1) и элемента задержки.
Пусть автомат 2 (хх, . . ., хп, z) имеет п входов и один выход. Тогда он
реализует некоторую о—д функцию/ (хг,. . ., хп). Поскольку нас не
интересуют отдельные входы и выходы, то можно рассматривать функцию / (#),
где х—(#!, . . ., хп) и тем самым ограничиться о—д функциями от одного
переменного.
Черт. 1
Функция / (х) перерабатывает бесконечные последовательности в
бесконечные последовательности. Можно ввести другую функциональную
характеристику ср (#), эквивалентную исходной (т. е. полностью
характеризующей работу автомата), но имеющую финитный характер. Из
детерминированности функции/ вытекает, что отображение/порождает
отображение конечных последовательностей (входных слов) вида {а(1), . . ., a (i)}
в конечные последовательности (выходные слова) {у (1), . . ., у (£)},
£ =1,2, . . . Это отображение обозначим через <р (х). Очевидно, что по
функции ср (х) полностью восстанавливается и функция / (х).
Оказывается, что если известно, что <р (или/) имеет вес г, то для задания
ср достаточно знать ее на конечном множестве входных слов. Более точно
говорит об этом теорема Мура [1].
Теорема. Функция ср (#), имеющая вес г, полностью определяется
своим поведением на множестве входных слов длины (не превосходящей)
2г-1.
Доказательство. Рассмотрим диаграмму Мура для функции
ср (х). Справедливы два очевидных положения:
а) каждая вершина диаграммы достижима из начальной вершины
некоторым путем длины не большей г—1, и, значит, любой путь длины г
проходит через одну вершину по крайней мере дважды;
263

б) совокупности всех путей длины s9 выходящих из некоторой вершины,
соответствует дерево с s ярусами. Если двум вершинам соответствует два
разных дерева, то отличимость установлена. Если одинаковые деревья с
с s ярусами продолжаются до одинаковых деревьев с 5+1 ярусами, то
одинаковые деревья с 5+1 ярусами продолжаются до одинаковых деревьев
с 5+2 ярусами и т. д., т. е. наступает стабилизация. Очевидно, что момент
стабилизации не превосходит г—1. Итак, различные вершины отличаются
своими деревьями с г—1 ярусами.
Из пунктов а) и б) следует, что диаграмма Мура (или занумерованное
дерево) полностью восстанавливается, если просмотреть все пути длины
г-\-г—1=2г—1 и запомнить получающиеся при этом выходные слова.
Теорема доказана.
Замечание. Конетанта 2г—1, фигурирующая в формулировке
теоремы, не может быть уменьшена.
Пример. Имеем две константные о—д функции веса г
Л(?)=(00...01)
/,(*) =0(0^01)
Здесь скобки означают период последовательности. Легко видеть, что
данные периодические последовательности неотличимы на отрезке длины
2г~2
00...010...001
00...010...01
Рассмотрим автомат 2 с г состояниями, поведение которого
характеризуется функцией ср (#). Предположим, что источник неисправностей
воздействует на схему, преобразуя данный автомат в автомат с числом
состояний, не превосходящим г. Обозначим через
?i(*)» •••> ?т(х) (?<(*)#?(*) * = 1. ■-■• и*)
все различные типы функционирований неисправного автомата и пусть
ср0 (#) = <р (х). Мы приходим к таблице, имеющей ттг+1 столбец и s строк,
соответствующим всем словам длины, не превосходящей 2г—1, т. е.
5=/V + iV2+ ... +iV2r-2 = ^_11—1,
где N — значность алфавита переменной х (7У=йя). Из теоремы Мура
следует, что каждые два столбца этой таблицы попарно различны.
Пример. Рассмотрим автомат (черт. 2), реализующий функцию
Ъ{Х)' z(t) = x(t) + q(t-l),
q(t) = x(t) + q(t-l),
g(0) = 0.
Из уравнений видно, что это триггер, имеющий на выходе в момент i
значение 0 или 1 в зависимости от четности числа единиц во входной
последовательности.
264

Пусть источник неисправности может вызывать отказ одного из конъ-
юкторов: на одном из входов может появляться либо тождественно 0, либо
тождественно 1. Обозначим через <р? (х) функцию неисправности при
появлении на входе i (см. черт. 2) значения о.
г
Черт. 2
Выпишем их канонические уравнения.
Для <pj(#) и ер» (х) имеем
( z(t) = x(t)8cq(t-l)9
1 q(t) = z(t)&q(t-l), ff(0) = 0.
Для ср§(ж) и ср2 С^) имеем
s(*) = s(*)&£(* —1),
?(*) = *(*)&$(* — *)> ?(0) = o.
Для у\(х) и cpj(x) имеем
lz{t)=x{t)\Jq{t-\),
\q{t) = X(t)\/q{t-\), g(0) = 0.
Для <р£(;г) и <f>J(;z) имеем
*(*)=л(<)\/г(*-1).
q(t)=x(t)\Jq{t-\), gr(0) = 0.
Таким образом, функции разбиваются на классы
Ы*)}. М(«), ?§(*)}. Ш*),<Р40(*)}, WW.tIW}, Огё(*).<гё(*)}.
На черт. 3 проведены занумерованные деревья для представителей этих
классов.
На основе занумерованных деревьев и принимая во внимание, что здесь
г=2, получаем таблицу (стр. 266).
Возьмем произвольное слово А={а (1), а (2),. . ., а (&)}. Обозначим
через Вj слово
b(A) = tf(l), ..., f(i)}.
Очевидно, слово А порождает разбиение /^-множества функций <р0,
¥i»« ■ м <Р» на классы.
265

Входные
слова
0
1
00
01
10
И
000
<Ро
0
1
00
01
11
10
000
J0
91
0
1
00
01
10
10
000
0
<Рз
0
0
00
00
00
00
000
.л
. Ч>1
1
1
и
10
11
10
111
,д
¥3
0
1
00
01
и
и
000
Входные
слова
001
010
011
100
101
110
111
<Ро
001
011
010
111
110
100
101
о
<Р1
001
010
010
100
101
100
101
0
<РЗ
000
000
000
000
000
000
000
1
<Р1
110
101
101
111
110
101
101
1
93
001
011
011
111
111
111
111
cpv (x) и ср (х) принадлежит одному классу тогда и только тогда, когда
В^=В , т. е. эксперимент на слове А приводит к одному и тому же
результату.
ОчеВИДНО, D(a(l)} Q ^{«(1),«(2)> £• . . £^{а(1),а(2), ...,«(*)}•
Черт. 3
Обоаначим через М произвольный из классов, входящих в разбиение
DA. Пусть М={пи. . . пр) (п. — номер функции). В некоторых случаях
нас будут интересовать состояния, в которых будут находиться автоматы
(функции) ср0, <рь. . ., <рт после подачи на входы слова А. Обозначим их
через
QM(A)={qv ..., qp).
Определение. Слово А называется неприводимым
относительно системы функций ср0, срь. . ., срт, если выполнены два условия.
1. Для любых двух различных слов А' и А", являющихся началом
слова А, таких, что Ai'=Ai", найдется класс М, входящий в разбиения,
содержащий более одного элемента, для которого
Qm(A')^Qm(A").
2. Для любого собственного начала А1 слова А
Da^Da.
Из определения следует, что в неприводимом слове А, где А = {а (1),
а (2),, . ,, а (j)}, при переходе от подслова (а (1), . .., а (/)} к подслову
{а (1),. . ., а (/+1)} происходит либо размельчение разбиения, либо из-
266

менение состояния автомата, входящего в группу, которая содержит более
одного элемента. Таким образом, при проведении эксперимента со словом
А на каждом шаге информация о контролируемых объектах увеличивается.
Так как исходное множество содержит т-\-\ функцию и число
состояний <pf. не более г, то длина неприводимого слова не больше, чем m-rm+1.
Определение. Неприводимое слово А называется
максимальным, если любое его продолжение не является неприводимым.
Очевидно, что любое неприводимое слово может быть продолжено до
максимального и длина максимального слова не превосходит т • г"4"1.
Таким образом, с точки зрения контроля важно найти все неприводимые
слова. Для этого достаточно построить все максимальные слова. Последнее
осуществимо и финитным образом, так как длина максимального слова не
превосходит т - rm+1.
Опишем алгоритм для построения всех максимальных слов. С этой
целью построим диаграмму, в которой элементы располагаются по ярусам
(сверху вниз) и так, что каждому элементу £-го яруса соответствует слово
А длины i.
Ярус с номером 0 является начальным и он содержит единственный
элемент — множество М={0.1, . . ., т) — номеров функций <р0,. . ., ут.
Этому элементу сопоставляется пустое слово Л; считаем, что М разбито
в прямую сумму подмножеств, содержащую одно слагаемое, равное М.
Положим, диаграмма уже определена до i яруса включительно. Опишем
процесс перехода к ярусу i-\-i. Для этого рассмотрим элемент £-го яруса,
и пусть ему соответствует некоторое слово А. Выберем в нем все
подмножества, которые содержат не менее двух чисел. Каждое из этих
подмножеств определяет дальнейшее построение диаграммы. Пусть М —
произвольное из них. Рассмотрим входные слова длины £+1:
АО, А1, ..., A(N — 1).
Под воздействием входного слова Аа на выходе получаем <р0 (Аа), . ..
. . ., срт(Ла), что порождает разбиение множества М на к подмножеств
Л/о, . . ., M£_i (Л/? соответствует множеству номеров р из М, для
которых <р^ (Аа) = {. . .v}). Возможны три случая:
а) среди подмножеств Щ, . . ., М%.г имеется по крайней мере два
непустых; тогда к диаграмме добавляем фрагмент (черт. 4, а);
м
#j
\Мл
7Ъг
/и
ff
S/
EZD
Пг
Черт. 4
б) среди подмножеств Afg, . . ., Af/Li имеется только одно непустое
множество; оно, очевидно, совпадает с М. Предположим, что для всех
начал А1 слова А (включая также Af=A), таких, что Da' — Da будет
Qm{A')=^=Qm{A(x); тогда к диаграмме добавляется фрагмент (черт. 4, б);
267

в) среди подмножеств Д/g» • • •» ^%-i имеем только одно непустое М.
Пусть существует начало А1 слова А (допускается А'=А), такое,
что Da, = Da, однако Qm {A1) =Qm {Aol)J Пусть Af имеет длину /. Тогда
добавляем фрагмент (черт. 5), содержащий цикл
Ъ"
/1
М
Л ^——«^_
1
ЛвМ)
/L
\*\ 1
0Л
Черт. 5
Это построение проделывается для а=0, 1,. . ., N—1. При этом, если
хотя бы для одного а мы имеем случаи а) или б), то на £+1 ярусе М
порождает новые элементы. В противном случае М будет содержать только
циклы.
Очевидно, что данный процесс закончится не позже т • rm+1 шага. Он
завершится либо разбиением на одноэлементные подмножества, либо
разбиением, в котором каждое подмножество, содержащее хотя бы два числа,
будет давать только циклы.
Примеры. Для множества функций {ср0, ср1? ср2}, которые
определяются уравнениями
*о(*) = ?о(*) = °. ?о(0) = 0,
*i (*) = *. «1 (*) = <?, <7i(°) = °>
z2(t) = x{t)&q2{t-\), g2(0 = ^(0V?2(*-l), ?2(0) = 0,
мы имеем следующую диаграмму разбиений (см. черт. 6).
Г^" / / 1
Vf\" > 'M \*\' * И
ff
Черт. 6
Для множества функций (ср0, cpj, <р°, cpi, ср*} (см. стр. 265), которые мы
перенумеруем числами 0, 1, 2, 3 и 4, мы получим следующую диаграмму
разбиений (см. черт. 7).
Диаграмма разбиений позволяет найти все максимальные слова.
Для этого надо оборвать все циклы — получаем дерево — ив нем взять
все ветви вида А=А' ,а, для которых
D>a¥=Da.
268

\ff / 2 J~
\пи
| V /
r
'
\"
/7
Lf.
f
/
T|
г7
3
Черт. 7
В первом примере это будут слова
О, 10
Во втором
0101, OHIO, 1010, 11010 111010
Максимальные слова, которым соответствует разбиение на
одноэлементные подмножества, называются простыми экспериментами. Простой
эксперимент позволяет однозначным образом найти у4 (х).
Очевидно, для основного примера простыми экспериментами будут все
максимальные слова
0101, OHIO, 1010, НОЮ, 111010
Как показывает первый пример, не всякое максимальное слово будет
простым экспериментом.
Зная все максимальные слова, легко построить все неприводимые слова.
У нас это будут слова
0, 01, 010, 0101
ОН, OHIO
1, 10, 101, 1010
II, НО, НОЮ
III, 1110, 111010
Можно обобщить понятие простого эксперимента.
269

Определение. Множество ^ входных слов называется кратным
экспериментом, если на основе выходных слов, получаемых при подаче
на вход всевозможных слов из ^, мы однозначно определим функцию из
множества
Определение. Кратный эксперимент ^'-называется подэкспери-
ментом кратного эксперимента 5, если для каждого слова А' £ 5' найдется
А из S, такое, что слово А' является началом слова А.
Определение. Кратный эксперимент *$. называется тупиковым,
если он не содержит собственных подэкспериментов.
Очевидно, что слова, которые входят в кратный эксперимент, являются
неприводимыми, а также, если ^ содержит более одного слова, то слова,
входящие в него, не являются простым экспериментом. Отсюда вытекает,
что в кратный эксперимент, содержащий не менее двух слов, могут входить
слова, являющиеся собственными началами максимальных слов, а также
максимальными словами, отличными от простых экспериментов.
В случае нашего примера такими словами будут
0, 01, 010
011
1, 10, 101
И, 110
111, 1110
Теперь мы можем перейти к вопросу о построении всех тупиковых
кратных экспериментов. Для этого мы построим таблицу, характеризующую
поведение автоматов (функций ср0,. .., cpw) на неприводимых словах,
отличных от простых экспериментов.
Для функций из примера имеем:
Входные
слова
0
1
01
10
И
010
0
0
1
01
И
10
011
1
0
1
01
10
10
010
2
0
0
00
00
00
000
3
1
1
10
и
10
101
4
0
1
01
и
и
011
Входные
слова
011
101
110
111
1110
0
010
110
100
101
1011
1
010
101
100
101
1010
2
000
000
000
000
0000
3
101
110
101
101
1011
4
011
111
111
111
1111
С помощью этой таблицы мы построим все тупиковые кратные
эксперименты, отличные от простых (простые эксперименты получены из
диаграммы разбиений).
Для этого используем нашу методику для построения тупиковых
тестов [2].
Сначала для каждой пары столбцов (или для каждой пары, входящей
в множество 9^) определим те слова, на которых они различаются. Этот
этап для примера выглядит так:
270

01
02
03
04
12
13
14
23
24
34
iovoiovioi vino
iv oiv iov livoiovoiivioiviioviiivino
(все кроме О)
ov oivoiov oiivno
livoiiv'ioiv lioviiiviiio
ivoiv iov livoiovouvioiv noviiivino
(все кроме О)
ovoiv lovoiovoiivioiviiovino
loviivoiovoiivioiviiovnivino
на всех словах
1V01V 10V HVOlOvOllVlOlV UOvHlVHiO
(все кроме О)
OVOJV И V010V011 V 101 VHOV HlVlHO
Далее составляют выражение П2 и осуществляют его преобразование
по правилам булевой алгебры в 2П, добавляя два дополнительных правила
А\/АВ = А
(если отличие произошло на слове А, то более длинное слово вида АВ
и подавно дает отличие)
А-АВ = АВ.
(Более длинный эксперимент поглощает более короткий.)
Удобно сначала сделать упрощения в суммах
01
02
03
04
12
13
14
23
24
34
Далее имеем
10V010V1110
IV 01
oviio
11 V0J1 V 101
IV 01
ov iov noviiio
10V HV 010V Oil
ov i
IV 01
ov nv ioi
ti
Л2=(10 V 010 V 1110) Xl^V-OlT (0 V 110) (11 V Oil V 101)$
= (0 • 10 V 010 V 0 • 1110 V 10 • 110 V Q1&—ttO V 110 • 1110)$
<£ (11 V Oil V 101) = 0-10-11 V • 11 • 010 V 0 • 1110 V
V 10 • 110 V 110 • 1110 V 10 • Oil V 010 • Oil V 044—1410 V
V lQ^-M^-fW V 044-=-44G-4HT) V 0 • 101 V 040-401 V
V 43-*-Шг-1Лт V 104—410 V Jj04-—Ие--4ТТ0 = 0-101 V
V 0-10-11 V 11-010 V 0 • 1110 V 10 • 110 V 10 • ОН V
V 010 • Oil V 110 • 1110
Таким образом, имеется восемь тупиковых кратных экспериментов, не
являющихся простыми.
Определение. Сложностью t (S) кратного эксперимента
называется величина, равная сумме длин слов, входящих в S.
Очевидно, что t (5) характеризует время для осуществления
эксперимента.
271

В нашем примере имеется (вместе с простыми экспериментами):
3 тупиковых эксперимента длины 4 : (0101), (1010), (0.101)
7 тупиковых экспериментов длины 5 : (OHIO), (11010),
(0.10.11), (11.010), (0.1110), (10.110), (10.011),
2 тупиковых эксперимента длины 6 : (111010), (010.011),
1 тупиковый эксперимент длины 7 : (110.1110).
Данный метод годится для решения любых диагностических задач»
связанных с автоматами. Для этого нужно с самого начала зафиксировать
множество ^-множество допустимых пар функций {ср,. (#), ср. (х)}
(столбцов таблицы). Например, для выяснения, будет ли автомат исправным 9^ =
= {(ср0, cpj}, i = l,. . ., т. Алгоритм нахождения всех тупиковых
экспериментов в остальном не меняется.
ЛИТЕРАТУРА
1. Э. Мур, Умозрительные эксперименты с последовательностными машинами. Сб.
«Автоматы». Физматгиз, 1956, 179—210.
2. И. А. Чезис, С, В, Яблонский. Логические способы контроля работы электрических
схем. Труды Матем. ин-та АН СССР, 51, 1958, 270—360.

СОДЕРЖАНИЕ
Н. Д. Г и л е н к о, Е. А. Щегольков. О научной и педагогической
деятельности Петра Сергеевича Новикова 5
A. А. Ляпунов. О работах П. С. Новикова в области дескриптивной теории
множеств И
С. И. А д я н. О работах П. С. Новикова и его учеников по алгоритмическим
вопросам алгебры 23
B. Я. Арсенин. Об одном способе приближенных решений интегральных
уравнений первого рода типа сверток 33
Я. М. Барздинь.О частотном решении проблемы вхождения в рекурсивно-
перечислимое множество 52
Н. В. Б е л я к и н. Обобщенные вычисления 59
Д. А. Б о ч в а р, В. И. Фуксон. Об операторах логической
аппроксимации 65
В. К. Булитко. О графах с заданными окружениями вершин 78
А. В. Гладкий. Математические методы изучения естественных языков 95
Г. А. Гуревич. К проблеме сопряженности для групп с одним
определяющим соотношением 109
3. И. Козлова. R-операция с полной глубиной цепей над несчетными
семействами множеств 121
О. Б. Лупанов. О сложности универсальной
параллельно-последовательной сети глубины 3 127
А. А. Ляпунов. О методе трансфинитных индексов в теории операций
над множествами 132
A. А. Мучник, А. Н. Маслов. Регулярные линейные и
вероятностные события 149
B. А. Осипов а. К проблеме сопряженности в полугруппах 169
Я. С. Сметанич. О восстановлении слов 183
А. Д. Т а й м а н о в. О некоторых работах, связанных с дескриптивной
теорией множеств и топологией 203
А. Д. Тайманов. О продолжении линейных операторов 214
Б. А. Трахтенброт. Частотные вычисления 221
A. А. Фридман. Решение проблемы сопряженности в одном классе групп 233
B. В. Ш к и р а. Об универсальных функциях для некоторых классов
рекурсивных функций и множеств » # 243
Е. А. Щегольков. Униформизация множеств некоторых классов .... 251
C. В. Яблонский. О построении тупиковых кратных экспериментов
для автоматов 263

УДК 501 (091)
О научной и педагогической деятельности П. С. Новикова. Гиленко Н.Д.,Щеголь-
ков Е. А. «Математическая логика, теория алгоритмов и теория множеств». Труды МИАН,
т. 133. «Наука», 1973, стр. 5.
В статье содержится обзор научной и педагогической деятельности академика П. С.
Новикова. Показана его выдающаяся роль в подготовке научных кадров математиков в СССР.
Библ. 11 назв.
УДК 519.5
О работах П. С. Новикова в области дескриптивной теории множеств. Ляпунов А. А.
«Математическая логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133.
«Наука», стр. 11.
В статье содержится обзор научных результатов, полученных П. С. Новиковым и его
учениками в дескриптивной теории множеств. Библ. 27 назв.
УДК 519.4.
О работах П. С. Новикова и его учеников по алгоритмическим вопросам алгебры. А д я н С. И.
«Математическая логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133.
«Наука», 1973, стр. 23.
В статье содержится обзор научных результатов, полученных П. С. Новиковым и его
учениками по алгоритмическим проблемам теории групп. Библ. 32 назв.
УДК 518; 517.948
Об одном способе приближенных решений интегральных уравнений первого рода типа сверток.
АрсенинВ. Я. «Математическая логика, теория алгоритмов и теория-множеств». Труды
МИАН, т. 133, «Наука», 1973, стр. 33.
Формулируются основные математические задачи, возникающие в проблеме измерения
физических величин, приводящей к решению уравнений вида Ах=и. Для линейных
интегральных уравнений первого рода типа сверток на основе использования интегральных
преобразований (Фурье, Лапласа и др.) дается описание способа построения операторов (алгоритмов
нахождения приближенных решений, устойчивых к малым изменениям правой части и (регу-
ляризирующих операторов). Изучаются некоторые свойства таких операторов. Библ.
9 назв.
УДК 517.12
О частотном решении проблемы вхождения в рекурсивно-перечислимое множество.
Б а р з д и н ь Я. М. «Математическая логика, теория алгоритмов и теория множеств». Труды
МИАН, т. 133, «Наука», 1973, стр. 52.
Исследуется вопрос о частотном (приближенном) решении проблемы вхождения в
рекурсивно-перечислимое множество. В частности, для любой вычислимой нумерации т
рекурсивно-перечислимых множеств и любого £ > 0 доказывается возможность распознавания
номера общерекурсивной функции, которая решает проблему вхождения в tn с частотой
1—£ для бесконечно многих начальных кусков. Библ. 6 назв.
УДК 511; 517.12
Обобщенные вычисления. Белякин Н. В. «Математическая логика, теория
алгоритмов и теория множеств». Труды МИАН, т. 133, «Наука», 1973, стр. 59.
Строится рекурсивная иерархия, такая, что описываемый ею класс множеств образует
модель одного фрагмента арифметики второй ступени. В основе построения лежат методы,
которые в определенном смысле являются конструктивными. Библ. 2 назв.
УДК 51.01; 517.12
Об операторах логической аппроксимации. Бочвар Д. А., Фуксон В. И.
«Математическая логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133. «Наука»,
1973, стр. 65.
Статья представляет собой обобщение и развитие результатов работы Д. А. Бочвара
«Меры ядер аксиом свертывания» (Докл. АН СССР, т. 185, № 6, 1969). Рассматриваются
некоторые операторы Аг- и Ае, аппроксимирующие формулы с одной свободной переменной
в том смысле, что в логическом исчислении доказуемо А$ [я] -*■ & [ас] и J [я] -*■ Ае^ [я],
где А$ [ас] и AJS [я] —значения операторов для фэрмулы 5 [*]•
Изучается непротиворечивость классов аксиом свертывания, ядрами которых являются
значения рассматриваемых операторов. Библ. 5 назв.
УДК 519.1
О графах |с заданными окружениями вершин. Булитко В. К. «Математическая
логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133, «Наука», 1973, стр. 78.
В статье показано, что невозможен алгоритм, распознающий по любому конечному
графу М, существует ли граф, окружение каждой вершины которого изоморфно М. Кроме
того, описан широкий класс <5l графов, такой, что для каждого М 6 ЗД существует конечный
граф, окружение всякой вершины которого изоморфно М; в частности, для люоого конечного
мультиграфа некоторый гомеоморфный и не изоморфный ему обыкновенный граф
принадлежит <£1. Библ. 5 назв.
274

УДК 410.51
Математические методы изучения естественных языков. ГладкииА.В. «Математическая
логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133, «Наука», 1973, стр. 95.
В статье содержится краткий очерк основных идей математической лингвистики. Библ.
18 назв.
УДК 519.4
К проблеме сопряженности для групп с одним определяющим соотношением. Г у р е-
в и ч Г. А. «Математическая логика, теория алгоритмов и теория множеств». Труды МИАН,
т. 133, «Наука», 1973, стр. 109.
В работе доказывается разрешимость проблемы сопряженности в группе с одним
определяющим соотношением А=В, в котором некоторая буква алфавита входит только в А и
некоторая другая буква — только в В. Библ. И назв.
УДК 519.52
-К-операция с полной глубиной цепей над несчетными семействами множеств. Козлова
3. И. «Математическая логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133,
«Наука», 1973, стр. 121.
В работе изучаются Г-операции с полной глубиной цепей со? над несчетными системами
множеств. Частные виды таких операций равносильны й-операциям с полной глубиной
цепей. Данные операции обладают трансфинитными индексами. Библ. 3 назв.
УДК 519.95
О сложности универсальной параллельно-последовательной сети глубины 3. Лупа-
нов О. Б. «Математическая логика, теория алгоритмов и теория множеств». Труды МИАН,
т. 133, «Наука», 1973, стр. 127»
Устанавливается асимптотика сложности универсальной параллельно-последовательной
сети глубины 3 для реализации функций алгебры логики от п переменных. Библ. 5 назв.
УДК 519.52
О методе трансфинитных индексов в теории операций над множествами. ЛяпуновА. А.
«Математическая логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133,
«Наука», 1973, стр. 132.
В работе определяется некоторый класс Ss-операций над множествами, которые
допускают построение трансфинитных индексов. Для этих индексов имеет место принцип
сравнения индексов, аналогичный тому, который П. С. Новиков построил для А-операций.
Множества, доставляемые этими операциями, отправляясь от открытых множеств, охватывают
все .R-множества. Они измеримы и обладают свойством Бэра. Для них имеют место теоремы
отделимости, аналогичные тем, которые известны для А- и С-множеств. Библ. 32 назв.
УДК 519.
Регулярные линейные и вероятностные события. Мучник А. А., МасловА. Н.
«Математическая логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133, «Наука»,
1973, стр. 149.
В настоящей работе рассматриваются вопросы представимости в общих линейных
автоматах (о. л. а.), частным случаем которых являются вероятностные автоматы, а также задачи
анализа, синтеза общих линейных автоматов и их описание в терминах грамматик. Ряд
специальных операций определяется только для вероятностных автоматов. Исследуются связи
последних с обобщенными автоматами, подклассы вероятностных автоматов, операции над
вероятностными событиями. Библ. 33 назв.
УДК 519.4
К проблеме сопряженности в подгруппах. ОсиповаВ.А. «Математическая логика, теория
алгоритмов^ теория множеств». Труды МИАН СССР, т. 133, «Наука», 1973, стр. 169.
В работе доказывается независимость трех алгоритмических проблем для полугрупп:
тождества, сопряженности I рода и сопряженности II рода. Для любой пары из них
приводятся примеры полугрупп, в которых одна из рассматриваемых проблем разрешима, в то
время как другая неразрешима. Библ. 5 назв.
УДК 519
О восстановлении слов. Сметанич Я. С» «Математическая логика, теория алгоритмов
и теория множеств». Труды МИАН, т. 133, «Наука», 1973, стр. 183.
В работе рассматривается математическая задача восстановления слова по множеству
его известных подслов, возникающая при анализе методов определения первичной структуры
гетерополимеров. Строится алгоритм восстановления слова по множеству его двубуквенных
подслов, а также алгоритм восстановления по множеству перекрывающихся подслов,
полученному более общим способом. Находится необходимое и достаточное условие для того,
чтобы два слова имели одно и то же множество своих двубуквенных подслов. Библ.' 4 назв.
УДК 519.5
О некоторых работах, связанных с дескриптивной теорией множеств и топологией. Т а й -
м а н о в А. Д. «Математическая логика, теория алгоритмов и теория множеств». Труды
"МИАН, т. 133, «Наука», 1973, стр. 203.
Возникшие в дескриптивной теории множеств идеи и созданные в ней методы оказали
большое влияние на смежные области математики, в особенности на топологию, теорию
алгоритмов и математическую логику. В настоящей статье дается обзор некоторых результатов
в топологии, связанных с дескриптивной теорией множеств. Библ. 40 назв.
275

УДК 519.54
О продолжении линейных операторов. ТаймановА. Д. «Математическая логика, теория
алгоритмов и теория множеств». Труды МИАН, т. 133, «Наука», 1973, стр. 214.
Находятся некоторые достаточные условия для того, чтобы компактный оператор
допускал непрерывное продолжение с сохранением нормы. Приводится также простое
доказательство известной теоремы о том, что любой компактный оператор можно продолжить с
сохранением непрерывности и увеличением нормы не более чем на заданное число е > 0.
Библ. 7 назв.
УДК 519.25
Частотные вычисления. Трахтенброт Б. А. «Математическая логика, теория
алгоритмов и теория множеств». Труды МИАН, т. 133, «Наука», 1973, стр. 221.
В данной статье сделана попытка изложить в обзорном порядке и с единой точки зрения
некоторые результаты, принадлежащие различным авторам и относящиеся к частотным
вычислениям; это позволяет выявить и некоторые естественным образом напрашивающиеся
задачи. Библ. 6 назв.
УДК 519.4
Решение проблемы сопряженности в одном классе групп. Фридман А. А.
«Математическая логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133, «Наука», 1973,
стр. 233.
Решается проблема сопряженности для групп с одним определяющим соотношением,
содержащим проходную букву. Библ. 13 назв.
УДК 519.51
Об универсальных функциях для некоторых классов рекурсивных функций и множеств.
Ш к и р а В. В. «Математическая логика, теория алгоритмов и теория множеств». Труды
МИАН, т. 133, «Наука», 1973, стр. 243.
Рассматривается вопрос о существовании универсальных общерекурсивных функций
для некоторых подклассов класса общерекурсивных функций и аналогичный вопрос для
некоторых классов рекурсивно-перечислимых множеств. Библ. 2 назв.
УДК 519.52
Униформизация множеств некоторых классов. Щегольков Е. А. «Математическая ло
гика, теория алгоритмов и теория множеств». Труды МИАН, т. 133,«Наука», 1973, стр. 251
Доказывается возможность униформизации посредством Б-множеств некоторых плоских
В-множеств и посредством В2-множеств некоторых проективных множеств класса А. Библ.
14 назв.
УДК 519.95
О построении тупиковых кратных экспериментов для автоматов. ЯблонскийС. В.
«Математическая логика, теория алгоритмов и теория множеств». Труды МИАН, т. 133, «Наука»,
1973, стр. 262.
Строится эффективный алгоритм нахождения всех тупиковых кратных экспериментов
для различения автоматов. Библ. 2 назв.
МАТЕМАТИЧЕСКАЯ ЛОГИКА, ТЕОРИЯ АЛГОРИТМОВ
И ТЕОРИЯ МНОЖЕСТВ
Труды ордена Ленина Математического института
имени В. А. Стеклова, том СХХХШ
Утверждено к печати
ордена Ленина Математическим институтом имени В. А. Стеклова
Академии наук СССР
Редактор М. С. Райкова. Технический редактор В. А. Григорьева
Сдано в набор 15/11 1973 г. Подписано к печати 6/VII 1973 г. Формат 70xl087i6. Бумага № 1.
Усл. печ. л. 24,3. Уч.-изд. л. 20. Тираж 3000. Тип. зак. 101. Т-07490. Цена 1 р. 75 к.
Издательство «Наука». 103717 ГСП, Москва, К-62, Подсосенский пер., 21
1-я типография издательства «Наука». 199034, Ленинград, 9 линия, дом 12