Машины, которые говорят и слушают

Машины, которые говорят и слушают

обусловлена в основном упрощениями алгоритма распознавания, на

которые пришлось пойти ради экономии'места и оперативной памяти.

Аппаратурно-программное направление представлено также системой [33] ,

которая на первом уровне распознавания обнаруживала в словах сегменты и

классифицировала их по способу образования звуков на гласные, щелевые,

аффрикаты, дрожащие , а также глухие и звонкие. На втором этапе

некоторые звуки классифицировались внутри данной группы по месту их

образования. В результате каждому сегменту присваивалась Кодовая

последовательность,занимающая I байт. Четыре старших разряда этого кода

указывали групповую принадлежность данного звука, четыре младших

разряда определяли тип звука внутри данной группы.

Для распознавания слов образуется элементарная последовательность

псевдослогов, сравнивающаяся с эталонами последовательности. При

экспериментальной проверке работы система распознавания на материале 50 и

200 слов с участием трех дикторов она показала 93 и 84% точности

распознавания соответственно.Анализ ошибок показал, что в большей

части они вызвали неправильными формированиями сегментов контрольной

реализации или эталонов, возникающими при срабатывании системы до начала

произнесения от посторонних шумов или шумов дыхания.

Интерес к построении систем распознавания речи, работающих с

множеством дикторов,стали проявяять и исследователи, тради-

19

ционно работавшие с одним диктором. Т.К.Винцюк и соавторы [21] показали,

что в рамках существующей однодикторной системы фонемного распознавания

речи может быть создана многодикторная система распознавания, которую

авторы назвали кооперативной,поскольку система предварительно обучается по

выборке кооператива дикторов. Основные результаты экспериментов:

при индивидуальном обучении системы распознавания речи средняя

надежность распознавания по чужим дикторам не превышает 80% (на словаре

из 100 слов);

- при кооперативном обучении средняя надежность распознавания для

четырех членов кооператива составляем 98^, что вполне приемлемо для

практического использования;

- кооперативное обучение способствует существенному превышению

надежности распознавания речи лиц, не участвовавших в получении обучающей

выборки (для двух новых дикторов средняя надежность распознавания 97 и

92%).

S 1.3. Развитие систем распознавания/понимания слитной речи

Задача общения человека и ЭВМ с помощью естественной,слитной речи

оказалась гораздо более сложной, чем построение систем распознавания

изолированных слов. Одной из первых практических систем распознавания

последовательности слитных словосочетаний (пять слов исходного словаря)

явилась система фирмы KdC .описанная ранее.

В дальнейшем будем различать системы распознавания *и системы

понимания слитной речи. В первых, как правило, рассматриваются фразы,

составленные из последовательности слов, между которыми синтаксическая и

семантическая связь либо отсутствует,либо слишком жесткая (используется

автономная грамматика).Системы понимания, в отличие от систем

распознавания, при декодировании входного высказывания используют высшие

лингвистические уровни языков, близкие к естественным, работая с

фразами, в которых допустимы стилистические ошибки, бессмысленные

звуковые сочетания, произвольные паузы и междометия.

При построении систем понимания речи необходимо в большей степени,

чем при создании систем распознавания слитной речи, использовать опыт

специалистов по искусственному интеллекту, а также привлекать

специальные знания о синтаксисе, семантике и прагматике языка общения.

В то же время отметим, что деление на системы автоматического распознавания

и понимания является 20

достаточно условным и фактически определяется коэффициентом ветвления,

который показывает, сколько возможных слов допускается после каждого слова

высказывания. В современных системах распознавания слитной речи средний

коэффициент не превышает,как правило, 30 (в системе Nac-ISQ), а в

системах понимания этот коэффициент достигает 200-300 (бессмысленные

звукосочетания типа цмм ... , эээ ... и т.д., а также паузы и

междометия можно рассматривать в СПР как возможные варианты слов).

Так как автоматическое распознавание 300 - 300 слов в непрерывном

речевом потоке - сложная задача, веди использовать обычные математические

методы распознавания, то для ее решения и привлекаются высшие уровни

знания о языке (синтаксис, сематика и прагматика), а также другие

способы, обеспечивающие сужение числа альтернатив на каждом шаге

принятия решения о слове, используемые обычно в задачах искусственного

интеллекта (ИИ). В связи с этим в системах понимания говорят о

семантической точности распознавания смысла фразы, когда не все

составляющие (слова) могут быть распознаны правильно.

Перейдем к рассмотрению систем распознавания слитной речи. Как

правило, такие системы работают по принципу фонемного распознавания, от

точности которого зависит общая надежность работы системы. Одной из

наиболее интересных отечественных систем с обучением на конкретного

диктора и словарь является система, построенная в Институте кибернетики

АН УССР им. В.М.Гяуи-кова [l9,20] , развитием которой стала кооперативная

система распознавания рвчи[213.

В основу этой системы положена математическая модель речевого сигнала,

в которой каждой фонеме соответствует полученный алгоритмически (на

основе анализа текущей автокорреляции сигнала, параметров линейного

предсказания и текущего энергетического спектра) определенный набор

бинарных признаков ( двоичный код). Модель учитывает коартикуляционныв

эффекты, изменение длительности фонем и динамику интенсивности сигнала.

Модель автоматического распознавания Института кибернетики АН СССР

использует анализ сигнала посредством синтеза.

Некоторый процеср порождает из элементарных эталонных сигналов по

определенным правилам эталонную слитную речь (общий для всех слов алфавит

эталонных элементов содержит около 80 элементов кодов). Распознавание

слитной рччи сводится к необходимости нахождения наиболее правдоподобного

эталонного сигнала слитной речи.

21

В этой модели автоматически находятся границы отдельных фонем, паузы,

тип и общее количество фонем в распознаваемой последовательности о

учетом априорной вероятности частоты встречаемости фонем. Эталонный сигнал

слитной речи формируется из эталонных сигналов отдельных слов путем

нелинейного преобразования исходных словесных эталонов. При этом

эталонные сигналы слов складывались в эталонную слитную речь так, что

паузы между словами имели различную длительность (в том чис/ie и

нулевую),а длительность элементов фразы изменялась плавно. Параметрами

грамматики, порождающей эталонные фразы, являлись: алфавит эталонных

элементов, акустике-фонетические транскрипции слов, правила стыковки слов

во фразе, правила нелинейной деформации сигналов вдоль оси времени и

некоторые другие параметры.

Для экспериментов по распознаванию слитной речи ( словарь включал 200

слов) были получены 1000 реализации этих слов, произнесенных одним

диктором (обучающая выборка). При испытаниях система дала 0,5% ошибок и 3%

отказов при распознавании слов в слитном потоке. Расширение словаря до 300

слов увеличило количество ошибок до 1%, причем отказов было 3,5%. При

экспериментах со словарем из 100 слов удалось получить время

распознавания (на ЭВМ БЭСМ-6), равное I с на I слово [193 • Отметим,

что близкий к этому метод используется в системах распознавания слитной

речи (СРСР), разработанных в Отделе вычислительной науки

исследовательского центра фирмы 1УЫ. В связи с тем, что данная фирна

(так же, как и фирма Sperry Univac ) активно занимается

исследованиями по распознаванию слитной речи после завершения проекта

arpa , рассмотрим эти работы более подробно.

В С39] описана СРСР, в основе которой лежит модель акустического

канала, обеспечивающая автоматическое порождение всех возможных

поверхностных форм предполагаемого высказывания совместно с

вероятностями их порождения. Это порождение осуществляется с помощью

акустико-фонологических правил (АФП).приложенных к базовой цепочке

высказывания. АФП учитывают в слитной речи такие фонологические явления,

как пропуски, вставки и замены отдельных фонем внутри слов, повышенный тон

речи, диалектные особенности, изменения на стыках слов и т.д.

Удобной структурой для выражения поверхностных форд высказывания

явился направленный граф, дуги которого помечены возможными звуками.

Каждому узлу графа соответствует распределение вероятностей, указанных на

выходящих дугах. Дуги на концах графа, соответствующего совокупности всех

поверхностных форм произнесен-

22

ного слова, имеют связанные с начальными и конечными состояни-яни условия

соединения, определяемые фонологическими явлениями на стыках слов.

Язык системы определяется автоматной грамматикой, представленной графом

и включающей 250 слов. Для распознавания использовался лингвистический

декодер-алгоритм последовательного декодирования, обеспечивающий

нахождение предложения о максимальной апостериорной вероятностью по

последовательности цепочки фонем, поступающих с выхода специального

акустического процессора. Точность декодирования высказываний на

контрольной выборке составила (по данным на август 1977 г.) 95% при 6%

ошибочной интерпретации, которые были вызваны 0,6% ошибок неправильного

распознавания слов. Следует отметить, что рассматриваемая система

была сияьно модифицирована за последние три года: упрощен акустический

процессор, с которого быви сняты функции фонемной сегментации и

маркировки. Сказалось возможным, используя алфавит из 33 фонем,

маркировать ими десятимиллисвкундные отрезки речевого сигнала

непосредственно по акустическим данным.Преимущество такого представления

авторы работы [Ю5Д видят в том, что, во-первых, информация о

звуке,распределенная по длине фонем, оказывается более полезной для

распознавания, так как при этом возрастает количество информации,

поступающей от акустического процессора к лингвистическоу декодеру. Во-

вторых, сегментация и маркировка (принятие решения о звуке) разнесены

во времени, и лингвистический декодер может, основываясь на структуре

отдельных слов, во время сравнения решить, представляет ли короткая

маркированная цепочка десятимиллисекунцных сегментов истинный звук или

же это - ошибочная ложная ставка.

Дальнейшее совершенствование сантисенундного акустического процессора (

asAJ ) за счет использования 45 эталонных фонетических меток вместо 33

позволило повысить точность классификации (на языке со словарем из 250

слов) до 98,8% на контрольном материале 100 предложений [l07] . Следует

отметить, что еще более совершенный процессор ( wbap ), на котором

получены наилучшие результаты распознавания (0% ошибок), использует лишь

пять параметров, один из котррых - кратковременные изменения общей

энергии сигнала, а четыре - отражают параметры гласных и описаны ранее

в [l4l] . Этот процессор осуществляет акустическое сравнение

непосредственно, используч величины акустических параметров, а не

фонетические метки, связанные с сантисекундными отрезками. Для каждого

слова используется модель с конечным числом состояний, которая

порождается алгоритмически из отображенного

23

произношения. Число состояний модели равно длине этого произнесения в

сантисекундах. В модели обеспечиваются переходы из состояния к этому же

состоянию, к соседнему и через одно.С каждым переходом связано пятимерное

гауссовское распределение в пространстве первичных параметров. Средние

значения и дисперсии выходных распределений, а также переходные

вероятности формируются автоматически при обучении на дополнительных

реализациях слов при формировании обобщенных эталонов с помощью алгоритма

Вктер-би [39].

В процессоре wbap используемая статистика основана скорее на

особенности слов, чем на особенности звуков.

Следует отметить, что за I976-I978 гг. предпринимались попытки

увеличить объем используемого в СРСР фирмы IBh словаря до 1000 слов

(тезаурус лазерных патентов). Предварительные результаты испытаний этой

системы описаны в [106} . На тестовом множестве фраз, куда входило

486 слов, ошибка распознавания слов составила 33,1%, причем ни одна из

й0 контрольных фраз не была определена правильно - программа распознавания

делала ошибку хотя бы в одном слове каждой фразы. Развитие этой системы

[107] позволило за счет увеличения числа фонетических меток до 52

снизить ошибки в распознавании слов до 20%.

В [108,109] рассмотрены дальнейшие улучшения этой системы, позволившие

уменьшить число ошибок при распознавании слов за счет использования

более совершенного сантисекундного акустического процессора сзар-зоо,

в котором число эталонных фонетических меток было расширено до двухсот.

При распознавании 50 п"едл°жений, включающих 980 слов, неверно распознано

87 слов, в числе которых 34 слова, составившие односложные слова типа

"of", " а ", " are ","as" и др. Переход к работе этой системы с

множеством дикторов описан в [l59]. Работа с новыми дикторами

реализована за счет использования автоматической селекции акустических

эталонов, выполняющейся двумя различными способами.Один из методов, в

основе которого лежит процедура Витерби С 39], реализован с помощью

сантисекундного акустического процессора TPIVIAI [l07], а другой,

основанный на алгоритме кластеризации, использует акустический

процессор autociust. (В первом методе использовалось 85 эталонов, во втором

- 20D.) Точность распознавания слов составила при использовании первого

алгоритма 65%, а второго - 90%. В 1983 г. была публикация одной фирмы

о распознавании словаря деловой переписки общим объемом 5000 слов.

Над проблемами распознавания слитной речи продолжает работать фирма

Sperry Univas, участвовавшая в проекте АЙРА. Эта

24

фирма разработала с"стему автоматического распозньвания слов,словосочетаний

и естественных предложений {l74] . На основе спектрального анализа и

линейного предсказания в спектральной об-дасти звуки классифицировались

по способу и месту образования. Система была испытана на словаре из 31

слова двумя дикторами. Точность распознавания изолированных слов при

использовании синтаксиса задачи составила 95%. Предварительные результаты

по распознаванию слитной последовательности слов, произносимые тремя

дикторами, составили от 54 до 74% для задачи с ограничечным порядком

следования слов. Предполагалось, что в дальнейшем будут использованы

акустико-фонетичзские и фонологические правила, нормализация дикторских

произношений, просодические характеристики речи. Предполагалось также, что

будут использованы более сложные процедуры для синтаксического и

семантического анализа. В 1977 г. система работала с двумя словарями -

из 36 (алфавит-но-цифровой словарь) и 64 слов (словарь речевого

управления) [123, 153] . Для обоих словарей точность распознавания

составила 95^, а средней точности распознавания слитялс словосочетаний -

88%.Дальнейшие разработки включали расширение словарного состава системы,

числа типов предложений, использование правил фонетической и словесной

верификации.

В [l54] сообщается, что система Sperry Univac. была модернизирована

для поиска и верификации ключевых слов в потоке слитной речи. В этой

системе использовались измеряемые на деся-тимиллисекундных интервалах

параметры речевого сигнала, проведшего через телефонный канал.

Исследователями был выбран достаточно мощный набор параметров-

Непосредственно по речевой волне определилась частота основного тона.

Спектральный анализ с помощью быстрого преобраэозания Фурье (БПД) позволял

получить следующие признаки речевых отрезков: общую энергию в полосе

100 -8600 Гц, энергию сонорных (100 - 3000 Гц), высокочастотную энергию

сонорных (650 - 3000 Гц), низкочастотную энергию (JOO - 600 Гц), разность

энергий низких и высоких частот <100 - 900 Гц) - (3000 - 3600 Гц),

частоту максимума спектральной амплитуды в полосе 100 - 3600 Гц,

спектральную производную на этой частоте и энергии в 15 полосах частот

телефонного канала. Кроме того, линейное предсказание в спектрадьной

области давило возможность получить и использовать коэффициенты линейного

предсказания и частоты первой и третьей формант.

Система содержит компоненты просодического и фонетического анализа,

которые обеспечивают последующее сегментное структурирование высказывания

(получение цепочки кваэифонетическюс сегментов)

Зак.480 26

для лексического сравнения. Сравнение осуществляется с помощью блоков

словесного гипотезирования и верификации. Верификация слов

производится методом динамического программирования. При построении

системы обнаружения ключевых слов была использована обучающая выборка -

разговорная речь, продолжительностью 13 мин. Предложения произносили 8

дикторов. Контрольная выборка составляла II мин разговорной речи 10

дикторов (из которых двое участвовали в обучении).

При контрольном эксперименте точность обнаружения 10 ключевых слов

была невысока, но все же испытания следует считать обнадеживающими. В [124]

отмечается, что в течение 1978 г. отдел речевой связи Jperry nnivac

работал над созданием более совершенного блока фонетического анализа,

который фактически стал лексически-управляемым фонетическим верификатором

(а не автономным фонетическим анализатором, как раньше ),что лучше

учитывает коартакуля-циокные эффекты внутри слова. Модернизация счстемы

позволила [I55J получить более удовлетворительные результаты по

обнаружению и верификации ключевых слов в потоке слитной речи. На

тестовых предложениях (16,7 мин разговорной речи 14 дикторов, не

принимавших участия в обучении системы) ключевые слова были обнаружены в

30% случаев.

В [l87] описана система распознавания слитно произносимых цифр,

разработанная фирмой Bell laboratories. Систэма состоит из двух

взаимодействующих блоков. Первый осуществляет пословную сегментацию всего

высказывания на отдельные цифры, а второй производит распознавание этих

цифр по результатам сегментации. При распознавании использовались

признаки сеп/^нтов речевого сигнала:

р - параметр, логарифм анергии, кооффициенты линейного предсказания и

ошибка предсказания .и коэффициента автокорреляции.Для пословной

сегментации слитных словосочетаний учитывалось то обстоятельство, что для

этого конкретного словаря (английские названия цифр) шумные участки и

паузы (глухие смычки) могли находиться только в начале или конце слов.

&ти участки и являлись в основном опорными границами между словами.

Точность пословной сегментации составляла 99% (при произнесении

словосочетаний как в тихой комнате, так и в условиях машинного зала).

Точность распознавания словосочетаний (названий семизначных телефонных

номеров) составила 91% для 10 дикторов (5 мужчин и 5 женщин), произносивших

фразы в тихой комнате, и QT% для тех же дикторов, находившихся а

машинной зале. В [149] отмечается, что получены обнадеживающие

результаты по распознаванию слитной речи, использующей словарь в 1й*7

слов, аналогичный словарю [ 147,148] . Дальнейшее развитие этих систем

описано в [156,1693.

26

Система Hearsay-П создавалась на базе разработанных ранее систем

распознавания слитной речи Dragon и Hearsay-I.Аналогично Hearsay-I

главным принципом Hearsay-д было выдвижение гипотезы (о звуке, слове,

фразе) и ее подтверждение с помощью всех возможных источников знаний

(ИЗ) о речевом сигнале .

Описания высказываний, которые должны анализироваться в этой системе

понимания речи, имеют унифицированную трехмерную структуру, причем

размерностями являются: уровни представления (акустический, фонетический,

слоговой, лексический, синтаксический и семантический), время и

вероятностные альтернативы (на каждом уровне для каждого временного

отрезка). Ьта структура содержится в памяти системы как единая

информационная база (ВИБ),подвергающаяся исследованиям и модификациям с

помощью различных программ, реализующих ввод в систему необходимых

источников знаний.

Работа комплекса программы на единой информационной базе (которую

называют "классной доской") и есть интерпретация слитно произнесенного

высказывания на различных лингвистических уровнях - от фонетического

до семантического.

Общая информационная память, построенная как единая многоуровневая

информационная структура с внутренними связями, представлена в системе

Hearsay-П в виде графа. Основная единица этой информационной

структуры - узел графа, являющийся гипотезой о существовании в

высказывании некоего частичного элемента. Структурные отношения между

узлами графа (гипотезами) представляются дугами графа, обозначающего связи.

Существует два наиболее важных типа структурных отношений -

"последовательность элементов" и "выбор элементов".

Последовательность - это структурное отношение, означающее, что

гипотеза верхнего уровня поддерживается "юследовательныы рядом гипотез на

нижнем уровне (например, слово представляется последовательностью

непересекающихся во время звуков речи). Выбор - отношение, определяющее

гипотезой альтернативную поддержку от двух и более гипотез , причем

каждая от них существенно перекрывает тот же временной отрезок (т.е.,

например, гипотезой, допускающей на данном временном интервале несколько

различных слов примерно одинаковой фонетической структуры).

Распространение идеи "выдвижение гипотезы - ее подтверждение" на все

уровни знаний о речевом сигнале требует организации системы передачи

информации между уровнями. В связи б двумя видами, структурных

отношений между узлами графа можно рассматривать и два типа гипотез -

горизонтальные и вертикальные, подт-

27

верхдаемые соответствующими источниками знаний. Гипотеза считается

горизонтальной, если источник знаний использует контекстуальную информацию

на данном уровне для подтверждения гипотезы того хе уровня. Вертикальная

гипотеза определяется как гипотеза,требующая для своего подтверждения

информации, получаемой источниками знаний на других уровнях.

Основная функция источников знаний - устранить ошибки, возникающие при

обработке слитной речи. При этом источники знаний должны вовремя добавить

какую-то новую информацию, внести что-то полезное для более надежного

распознавания. Источники знаний должны уметь распределять эти знания

через механизм выработки гипотез, оценивать цобавку от других

источников знаний,т.е. подтверждать иди отвергать гипотезы, сделанные

другими источниками знаний. Источники знаний необходимо создавать таким

образом, чтобы их можно было приспособить к новым участкам анализа

высказывания и вообще к новым задачам автоматического понимания слитной

речи.

Для нормальной работы СПР Нвагаау-11 необходимо реализовать:

1) достаточно общую, структурно-полную информационную базу, анализируя

которую, источники знаний могут вводить новые гипотезы,' проверять и

изменять гипотезы, размещенные в этой базе другими источниками знаний;

2) средства для описания разнообразных источников знаний и

обеспечения их внутренней обрабатывающей способности;

3) возможность управлять действиями источников знаний ин-фовмационко-

направленным способом (необходим способ, с помощью которого определяется

ряд предварительных условий, запускающих необходимый источник знаний);.

4) признаки, по которым обнаруживается удовлетворение этих условий и

локализуется часть информационной базы, в которой заинтересованы

соответствующие источники знаний.

Для реализации п.4 необходимы два механизма: мониторный руководящий

механизм, обнаруживающий изменение общей информационной базы и

оценивающий природу этих изменений, и ассоциативный механизм повторных

испытаний и восстановления частей информационной базы, когда это

необходимо. Таковы самые общие сведения о Hearsay-П. Переедем к более

детальному рассмотрению этой системы.

Параметрическое представление высказывания в Неагвау-П сводится к

использованию двухступенчатой системы признаков. Несмотря на то, что

в последнее время большое внимание уделяется

28

точным методам нахождения параметров речеобраэующего тракта (в частности,

с помощью линейного предсказания), неапау-11 используется лишь на втором

этапе. Но прежде чем использовать коэффициенты линейного предсказания,

авторы Неагвау-П получают гораздо более простые и дешевые обобщенные

параметры,которые назвали параметрами zapbash (Zero Orosetng and PeaHs at

Differenced and Smooth Vaweform). Эти параметры обеспечивают грубую

сегментацию речевого потока по способу образования звуков, т.е.

обеспечивают сегментацию и маркировку I уровня. После локализации в

высказывании фонетических элементов применяют сегментацию и маркировку П

уровня, основанную на использовании коэффициентов линейного предсказания,

обеспечивающего более точную идентификацию сегментов.

zapdash - параметры речевого сигнала, определяющие интегральные

характеристики звуков в низкочастотном (< I кГц) и высокочастотном ( >1

кГц) диапазонах. Эти параметры выделяются в реальном масштабе времени из

сигнале, поступающего с АЦП в мини-ЭВМ, которая обладает средним

быстродействием 600 тыс. операций в I с. Параметры (число нулевых

пересечений и амплитудное значение сигнала на интервале анализа для каждого

из диапазонов) формируются программно, и их значения дают возможность грубо

классифицировать сегменты на 10 различных типов - пауэы (глухая смычка),

наличие звонкой смычки, характеризующие звонкие взрывные б, д,г, сонорный

согласный, глухой фрикативный (переднеязычный или заднеязычный), носовой,

свистящий, гласный высокого иди низкого подъема. В дальнейшем

производится пере классификация сегментов на 59 классов, некоторые из них

пересекаются в пространстве признаков.

На второй стадии к среднему участку сегментов применяют сравнение с

эталонами (этих эталонов для каждого класса сегментов может быть до 100).

При сравнении средний участок сегмента по-ступившей на вход реализации

сравнивается с множеством эталонов, которые подучены от специально

обученных дикторов. Использование сегментации I уровня позволяет, как

отмечается в [l79], ускорить общую сегментацию в пять раз по сравнению

с унифицированной, основанной .исключительно на коэффициентах линейного

предсказания.

Как уже отмечалось, ключевой проблемой систем понимания Речи является

верификация сдоврсиьк гипотез.подожданных различ-иыми источниками знаний.

Блок словесной верификации должен оце-нвдь, насколько акустические данные

входной реализации соответствуют фонетической транскрипции

гипотезируеного слова.

2S

В соответствии с оценкой, словесный верификатор отбрасывает

большее числе гипотезированных слов, сохраняя возможные пра~ вильные, чтобы

впоследствии отобрать единственное с помощью инфор~ мации высших уровней.

В Hearsay -П слова порождаются либо словесным гипотезато-ром снизу

вверх (блоком POMOW), либо преде называются сверху вниз семантико-

синтаксическим блоком sass . Блок словесной верификации wizard

обрабатывает гипотезы о словах снизу вверх, используя акустическую

информацию и результаты автоматической сегментации. Каждый сегмент

высказывания представлен вектором фонемных вероятностей (т.е. с каждым

отрезком высказывания связываются определенные звуки, которым

присваиваются некие веса), Каждое слово словаря записывается эталонным

графом возможных фонетических произнесений, учитывающим все

альтернативные варианты произнесений. Однородная модель, используемая

блоком словесной верификации, дает возможность найти оптимальное совпадение

одного из эталонов (соответствующее пути на одном из эталонных графов) и

участка входной реализации, соответствующего слову.

В системе Hearsay-П при словесной верификации стыки между словами не

рассматриваются, делается лишь их внутренняя обработка. wizard пытается

верифицировать слова, как будто они находятся в изоляции.

При верификации слова обрабатываются снизу вверх следующим образом:

предсказанные моменты начала и конца слова связываются с

соответствующими сегментами высказывания bseg и eseg. Исследуются все пути

в эталонных графах возможных слов, которые совпадают с отрезками и

входной реализацией. Сравниваются с эталонами отрезки, которые начинаются

в (baeg-I: beeg +I ) и заканчиваются в jeseg -I I eeeg +I(, т.е.

параллельно рассматриваются девять возможных участков высказывания,

что приводит к девяти оптимальным путям на эталонных графах, из

которых выбирается тот. оценки которого наибольшие, или наиболее

соответствуют рассматриваемому участку. Сдвиг на один сегмент вправо

или влево позволяет избегать ошибок при представлении входного,

высказывания (акустических данных) различными источниками знаний. В

результате блок словесной верификации может изменять время словесных

гипотез, а также их оценки. Следует отметить, что если в проектах ВШ

(Speechlis и HWIM) идет непосредственный переход от фонетического

описания к словесному, то в Hearsay-П используется еще промежуточный,

слоговый уровень между словами и звуковыми сегментами. Для поддержки

словесных гипотез используются так называемые типовые слоги, слоготипы

(syltypes).

Ццея слоготипов сводится к тому, что слоги, имеющие похожие сегменты

(например "та", " па"), относятся к одному типу. Никаких попыток различать

слова с одинаковыми слогами в Нвагвау-П не делается. Каждый слоготип

характеризуется слоговым ядром, определяемым эвристически присвоенными

сегментными метками и положением максимума энергии на отрезке. Для каждого

слоготипа гипотези-руются слова, в которых встречается данный слог;

многосложные слова отбрасываются, если плохо согласовываются о

последовательностью слоготипов. Подробное описание слогового гипотезатора

pokow содержится в С 1783.

В Неагаау-П содержится еще один гипотезатор - гипотеза-тор словесных

последовательностей wozeq. В сравнении со стратегией однословных "островков

надежности" многословная последовательность желательна по двум причинам:

1) доверие к гипотезе о последовательности сдов более высоко, чем в

однословной гипотезе;

<;) правильность оценки (в очках) для последовательности слов выие, чем

для одного слова. (Последовательность слов использует избыточность

языка, йероятность того, что гилотияируемая последовательность правильна,

может превосходить вероятность того, что правильно одно слово. Сравнение

оценок, основанных на средних оценках нескольких составляющих,

статистически более надежно, чем сравнение, основанное на оценке одной

составляющей.)

Синтаксический и семантический источники знаний в Неагвау-п

представляются блоком sass . Этот блок имеет дело с гипотезами,

представляющими слова, словосочетания или фразы, воспринятые или

предложенные. Задача sass - найти наиболее правдоподобное предложение по

последовательности смежных слов. Правдоподобие определяется достоверностью

словесных гипотез и грамматической правильностью и осмысленностью

предложения. Как уже отмечалось, в и«эаг-aay-il многочисленные альтернативы

представляются в общей информационной базе и обрабатываются параллельно

независимыми информационно направляемыми программными блоками - модулями

источников знаний, которые создают, проверяют и переписывают гипотезы о

высказывании, запоминая их на доске. Одна размерность доски - уровень

представления, другая - время, третья - вероятность правильности гипотезы,

оцениваемая в очках. С точки зрения sass общую информационную базу

("классную доску") можно рассматривать как схему гипотезированных слов,

порождаемых различными источниками знаний. Вертикальные измерения - это

очки (в диапазоне - 100 * -» +100), оценивающие достоверность словесных

гипотез.

31

30

Проблемы, стоящие перед семантико-синтаксическиы блоком

-неопределенный комбинаторный поиск, слабое (например, предложение

заполнить пробелы на временной оси гипотезами о словах) и сильное

(например, совсем отвергнуть какую-либо гипотезу) вмешательство,

необходимость использовать частичную информацию (частичные грамматические

конструкции), способность динамически менять свои критерии достоверности -

общие проблемы многих больших систем,основанных на информационном

управлении.

Уффективное решение этих проблем, по-видимому,потребует построения такой

системы, в которой последовательность процедур заключительной

обработки чувствительна к различным сотрудничающим и конкурирующим

отношениям между гипотезами, ато означает, что семантико-синтаксическая

обработка облегчается на гипотезах, поддержанных одновременно несколькими

источниками знаний, и задерживается на гипотезах, которые конкурируют,

не согласуются с очень надежной гипотезой. Задержка гипотезы должна быть

достаточно гибкой, недетерминистской, неокончательной, так как и слабая

гипотеза при интерпретации высказывания может оказаться верной. Гибкая

задержка осуществляется в Hearsay- П механизмом фокусировки внимания,

который распределяет ресурсы так, чтобы в первую очередь рассмотреть

наиболее обещающие гипотезы.

Синтаксические и семантические знания о проблемно-ориентированном

языке Hearsay-П выражаются в компактной, легко читаемой грамматике»

которая задается параметрическими структурными представлениями (PSR),

являющимися множеством пар типа "определение - объект". psr используются

для определения класса слов и фраз, которые могут выполнять синтаксические

и семантические функции проблемно-ориентированного языка, состоящего для

Hearsays И из простых вопросов. Например, psr:

($СЪА35: $QUEPY, $HAME: "PAPSED QUEPY", 6 : $QinME + $flfHAT,

El ТЕ L Ь +'$ ME + $ПЕ + ФТОПСЗ, 6 » WHAT + HAPPENED

+ $ АЮТ AY, e s WHAT + ф BE + THE + $N EWS+tRE +

^TOPICS

ЦСТЮМ t PASS, $LEV EL ! 300)

определяет класс возможных вопросов в терминах их альтернативных

синтаксических реализации, аначок ® обозначает принадлежность к классу.

Каждая член класса - это последовательность эталонов, составляющие которых,

разделенные знаком "+", слова или фразы. «разовые сосгааяяшеи» помечаются

значком $ и определяются в

32

свою очередь другими psr. faction pass означает, что реакция блока

ЗАЗЗна распознавание люоого из пяти эталонов в классе должна трактоваться

как признак вопроса ( $query ) .»level оценивает относительную

завершенность частичного грамматического разбора, лежащего в основе

гипотезируемой фразы PSR:

6 : $CL ASS ! $TOPICS,

ЈPL АСЕ,

$FOOD,

$TECHNOL ОСУ,

$ С OVER NT.IE:IT,

ФР01Т1Т1С,

$PEOPL E,

e ; $TOPICS + SCONJUN CTICOT + 3>TOPIG S, 6 : CACTIOH : PASS,

LEVEL : 40)

и определяет класс возможных предметов разговора (.Topice) в терминах их

семантических подклассов.

Как уже упоминалось, sass имеет набор сильных и слабых средств,

представляющих различные виды обработки информации на синтаксическом и

семантическом уровнях.

1.Правило распознавания порождает гипотезу о фразе по достаточно

надежным гипотезам о составляющих фразы. sass рассматривает слова

распознанными, если их оценки (в очках), определенные другими источниками

знанчй, превышают некий порог. Составляющие фразы должны также

удовлетворять некоторым структурным требованиям - например, таким, как

временная смежность между составляющими. Правила распознавания ведут

обработку снизу вверх, двигаясь от частичного грамматического разбора к

полному. Они представляют собой сильные средства обработки (сила

оценивается вероятностью того, что последовательность распознанных

составгчющих может как-то осмысленно интерпретироваться) .

2. Правила предсказания гипотезируют сио-во или фразу в зависимости от

вероятности контекста, определенного на предыдущих этапах распознавания

высказывания. Правила предсказания выполняют обработку, перекрывая

временной ин-Тврвая "островками надежности". Эти правила необходимы

потому, что не все слова в произнесенном высказывании могут быть рас-

чознаны снизу вверх, т.е. источниками знаний нижних уровней. ^ияа правила

предсказания определяется условной вероятностью того, что предсказанные

составляющие могут быть в высказывании при

Денном (распознанном ранее) контексте, ата сила обратно пропор-'тонаяьна

числу составляющих,которые могут появиться в этом контексте.

Зак.480

3. Правила повторного разбора ( res-pelling rules ) производят

обработка7 сверху вниз и численно оценивают составляющие предскапанной

фразы, разбивая гипотезируемое предложение на гипотезы для последовательных

составляющих или же "расщепляя" гипотезируемый класс на альтернативные

гипотезы для различных составляющих высказывания. Правила повторного

разбора (прочтения) проводят обработку, возвращаясь к словесному уров. ню,

так что предсказание (о фразе) верхнего уровня может быть подвергнуто

испытанию (слово за словом) источниками знаний нижнего уровня, если на

верхнем уровне что-то не сходится.

4. Правила постдикции несЭходимы для того, чтобы уже после сформирования

понятия подтвердить его большим числом "очков доверия", дать ему более

высокую оценку, подтвердив существующую гипотезу о фразе другими

гипотезами. Правила постдикции как более сильные включают правила

предсказания и повторного прочтения, которуе слишком слабы, чтобы

подтвердить создание гипотезы, но могут внести полезный вклад, когда

гипотеза уже существует. Правила постдикц^и выполняют три функции:

а) позволяют объединять выводы, поддерживающие оцениваемую гипотезу на

основе различных источников знаний;

б) дают воамсвность гилотеэирсвать слова и фразы с низкими

первоначальными оценками за счет их распознавания на основе контекста»

в) способствуют фокусированию внимания на главных направлениях,

определяемых возрастанием очков гипотез тех слов, которые контекстуально

возможны (и таким ооразом могут считаться правильными), так что

обработка высказывания в этих направлениях происходит по списку

приоритетов в первую очередь.

Автоматическое превращение описательной информации о грамматике языка

-Hearsay- П , заданной параметрическими структурными представлениями (

psr), в процедурную форму осуществляет ком-пиллятор суытет , который

транслирует эти представления в правила распознавания, предсказания,

повторного прочтения и постдикции. cvshet разбивает последовательности

слов, составляющих высказывания и представленных PSR, на пары

последовательных эталонов, формируя новые подпоследовательности и порождая

для них соответствующие правила [ 13Й 3 .

Одна из самых интересных систем автоматического распознавания слитной

речи - система harfy, разработанная по проекту arpa (США, Питсбург). Эта

система по сравнению с другими разработками, проводившимися по этому

проекту [l5lj,наиболее близка к практическому использованию. Словарь

harpy составляет ЮН словоформ - слов телефонной информацион-

34

но-справочной службы о новостях. При испытаниях harpy была получена

точность распознавания фраз, равная 95% на обучающей выборке и 92^ на

контрольной. Система воспринимает слитную речь, не содержащую

стилистических ошибок. В harpy информация о языке представлена фонетическим

графом - интегральной сетью переходов с конечным числом состояний, не

учитывающей априорные вероятности переходов. Распознавание

осуществляется сравнением входной реализации, представленной маркированными

сегментами, с этой сетью.

Система содержит несколько эвристических процедур для улучшения ее

характеристик: выделение подсетей и сжатие их для уменьшения общего

объема сети, автоматическое составление описания коартикуляционных явлений

на стыках слов и т.д. Время распознавания системы в период испытания

составляло 2D с на 1 с речи (есть сведения, что в настоящее время оно

снижено до Зс на I с речи).

Синтаксические значения в hahpy однозначно определяются независимым от

контекста рядом выработанных правил, формализующих проолемно-

ориентированный язык. Лексические знания представлены словарем, который

содержит символическую фонемную транскрипцию всех альтернативных

произнесений. Правила стыков, как и в системах IBM, учитывают

фонетические явления при соединении слов в слитно произносимое

словосочетание. В качестве первичных параметров используются коэффициенты

автокорреляции и линейного предсказания. У системе Нлару в процессе работы

осуществляется адаптивная подстройка под диктора с помощью десяти

обобщенных эталонов, характеризующих усредненный вокальный тракт группы

дикторов. На базе harp? был разработан голосовой ввод в картографическую

систему ( vigs), позволяющий дублировать клавиатуру при вводе

картографической информации [l3l].B настоящее время система harpy

переводится на мультимикропроцессорную базу [36].

перейдем к краткому описанию систем "понимания" речи. Их разработка

началась после появления отчета [161] , в котором известные американские

специалисты в области искусственного интеллекта, распознавания речи,

системного программирования, математической лингвистики изложили взгляды на

проблему построения систем, воспринимающих слитную речь, произносимую на

естественном языке. Основные положения отчета [161] легли в основу

пятилетней программы arpa.

Достаточно подробные обзоры по начальному этапу работ над системами

понимания речи содержатся в [79,85] . Поэтому здесь рассмотрим лишь итоги

проекта arpa в области построения

35

конкретных СПР. Можно считать законченными (в большей или меньшей степени)

системы понимания речи трех американских организаций -ОЫП, 3RI и ввн [179,

162, 187, 189].

Основные усилия c:,?J были направлены на построение системы понимания

речи Неагаау-1 "^основанной на принципе: "Выдвижение гипотезы и ее

подтверждение различными независимыми источниками знаний о языке".

Отдельные элементы этой системы подробно освещены в [79, 85, 8b, I2U,

179].

Система Псагвву-п была испытана на IOU предложениях, составленных из

IUH словоформ, аналогичных словарю системы harpy, описанной ранее (система

HARPY имела грамматику с гораздо более простым синтаксисом). Ошибки при

распознавании фраз в Неагаау-п составляди 16%, а время распознавания

превышало время распознавания системы harfx в 2 - 33 раз.

В фирме вен на I этапе разрабатывалась система понимания речи

Speeohlis, в качестве языка которой использовался упрощенный вариант

языка ИПС lunar; система Ь^-паг давала возможность анализировать образцы

лунных пород[?9,Уб1В дальнейшем была усовершенствована этой же фирмой новая

система понимания речи нули (Hear what I mean ) С учетом недостатков

Speechlia.

.Язык системь. hwim относится ^ области бухгалтерских расчетов. Вместо

раздельных синтаксического и семантического блоков системы Speechlis ,

нздш имеет единый, семантико-синтакси-ческий модуль, реализующий так

называемый блок "прагматической грамматики". Эта грамматика представлена

здесь в виде сети и основывается не на таких синтаксических категориях,

как подлежащее, сказуемое, определение,а на семантических - "поездка","ли

ад", "расстояние". Словарь itvim включает 1100 словоформ [185, I8yJ

Прагматическая грамматика, хотя и жестко связана с проблемно-

ориентированным языком, очень удобна длк обеспеченля простых принципов

использования синтаксических, семантических и прагматических ограничений

языка, которые необходимо делать для повышения точности интерпретации

высказывания. По-видимому,на перво» этапе построения автоматических систем

понимания речи целесообразно так и поступать, т.е. разделить задачи

использования словарями (например, при автоматическом машинном переводе

текстов) и использованием синтаксиса и семантики для построения СПР. dc

ьтором случае задача несколько иная - и более сложная, и боле( простая.

С одной стороны, нет уверенности в правильном распоэ навании всех

составляющих высказывания; неясно, существуют я'

36

вообще пробелы (паузы, междометия и т.д.) на временной оси,где искать

ключевые слова и пр. Но с другой стороны, мы ограничиваемся достаточно

простым проблемно-ориентированным языком с относительно небольшим словарем

и упрощенными грамматическими конструкциями.

В системе нто,1 акустическая информация используется блоками акустико-

фонетического распознавания ( apr) и периметри-чеокой верификации слов (

?та ). Результатом работы APR является фонетическая транскрипция "снизу-

вверх".

Блок pvw осуществляет верификацию "сверху-вниз", води словесная гипотеза

поддерживается акустическим уровнем. Основной программный модуль

верификатора - программа синтеза слов по правилам.

Отдичие системы h.'.'im от Speechlia заключается также и в характере

акустико-фонетического распознавания - в наличии у системы HWIM блока

селективной модификации ( зМ), дающего возможность реализовать

двухступенчатую сегментацию и маркировку. Программа SM на выходе

порождает решетку сегментов, представляющую возможные альтернативы фонам.

Каждый из сегментов первоначально маркируется одной меткой. Затем в

зависимости от этой предварительной классификации вычисляются некоторые

величины аку-отичаских параметров и модифицируются оценки данных фонем.

Функции пяотности вероятностей, используемые блоком сеяективной

модификации sM, поступают в бяок агер ( Acoustic Rionetic Experiments

Facility ), который содержит модули, позволяющие моделировать звуки речи

и проверять параметрические многомерные распределения вероятностей для

ряда фонетических классов, что дает возможность полнее использовать многие

независимые параметры одновременно.

Программа ан? выделяет не только грубые классы фонем, но и

производит идентификацию внутри классов. Характеристики фонам в слитной

речи сильно зависят от контекста, т.е. наблюдается наличие нескольких

аллофонов, для которых оценки сильно перекрываются. Поэтому в hv/im для

каждого класса фонем устанавливается ряд фонетических признаков и

используется таблица, в которой показано ранжирование этих признаков для

аллофонов каждого класса.

После сегментации высказывания и построения сегментной решетки,

перекрывающей высказывайте отрезками, соответствующими фонемам, блок

управления вызывает процедуру лексического поиска для сканирования вдоль

всей сегментной решетки и поиска Ib наиболее подходящих слов. Из-за

большой неопределенности на стыках

37

слов эту процедуру проделывают слева направо и справа налево. Сяова,

отобранные процедурой лексического поиска, образуют словесную решетку,

где они используются при последующей обработке. Блок управления, выбрав

из УО отобранных при сканировании слов одно с наибольшим весом

(получившее наибольшую оценку).пытается, основываясь на прагматической

грамматике, строить гипотезу о большем отрезке сигнала. Если расширение

гипотезы не получается, блок управления берет следующее (по вес^) слово

словесной решетки; если это слово подходит, то расширяют двухсловную

гипотезу, если же нет, то подбирают новое ключевое слово.так продолжают

до тех пор, пока не будет построена гипотеза обо всем высказывании.

Если система не в состоянии сформировать правильную гипотезу о

фразе или если исчерпаны ресурсы, то считается,что система не смогла

интерпретировать высказывание. При расширении гипотезы блок управления

вызывает синтаксическую компоненту, которая дает возможность оценить

гипотезу и предсказать новые слова. Синтаксическая компонента помечает

каждое слово словесной решетки, которое можно использовать для

расширения гипотезь', и устанавливает, какие еще слова требуются для

подтверждения этой гипотезы ("подсказка" сверху). В связи с последним

могут быть произведены дополнительные сравнения с эталонами для

проверки, нет ли в текущей реализации высказывания необходимых слов.

После того, как синтаксическая компонента ("прагматическая грамматика")

сделала свои предположения слов слева направо, она вызывает процедуру

лексического поиска для проверки новых гипотез о словах. Оценки слов,

оценки гипотез об отрезках фразы и оценки фраз ("событий", как их

называют разработчики Wi'iu ) влияют на общую стратегию интерпретации

высказывания. Событиям присваиваются очки, приблизительно равные сумме

очков слов подтвержденной гипотезы и слов, требуемых для расширения этой

гипотезы,

Попробуем рассмотреть пример, из которого станет ясно, как

работает механизм анализа предположения, основанный на так называемой

"островковой стратегии". Пусть на вход системы поступила фраза:

"What Is the total budget figure ?"(Какова общая сумма бюджета?). При

просмотре фразы справа налево процедура лексического поиска формирует

таблицу:

17 17

24

22 11

182

178 174

-38

-10

-R

-d

-R

1. FIGURE

2. FIGURE

3. TOTAL

38

4. FIGURE1723169-535. YEAR2023107-23б. УСУ2022100-317. IS3596-318.

ABOVE10149409. BUDGET111781-1610. IT6880-1611. IS2576-3112, ТО7973-4613^

WOULD0372-3114. -34572015, FIGURE172169-38Слева направо16. TOTAL -

ED71?1971017. FIGURE1724182018. WHAT03178019. PIOURE1722178-3820.

TOTAL711174-1021, FIGURE1723169-5322. HJDGET1117154-1623. VKAH2023107-2324.

YOU2022100-3125. IS3596-3126. FIGURE - ED172389-3827. FIGURE172883028.

BUDGET111781-1629. IT6880-1630. HIS2576-31

Список представляет 30 возможных слов при сканировании справа и

слева, позиции правой и левой конечных сегментов слова, очков, которые

получило данное слово при сравнении эталонов с участками входной

реализации на местах между начальной и конечной точками гипотезируемого

слова, логарифма вероятности произнесения данного слова. Список может

описывать некие специфические свойства, связанные с произношением (здесь

всюду пропуски - -), а также показывать, справа или слева производилось

сравнение с эталоном (здесь показатели R и L).

Анализ списка гипотезируемых слов показывает, что больше всего

очков набрало слово totaled (при сканировании слева направо). Бто

слово занимает в словесной решетке позицию от сегмента 7 до сегмента 12

и имеет вес 197. Для этого слова соа-

39

дается однословная гипотеза, которую должна расширить синтаксическая

процедура. Но прагматическая грамматика не позволяет формировать

фразу с этим словом в прошедшем времени. Следовательно, никакого

предсказания о возможном контексте с этим словом сделано Сыть не может.

Следует перейти к следующему (по оцен. не в очках) слову figure .

Отметим, что существует семь различных сравнений с этим словом

примерно в гом же месте высказывания, немного отличающихся очками.(Это

объясняется различными фонологическими эффектами на концах слова,

возможностями различной сегментации в сегментной решетке и различными

возможными произнесениями этого слова, отраженными в эталонном фонетическом

графе; в кашем случае все связано с неопределенностями сегментации этого

слова в конце.) Вообще говоря, то, что одно слово встречается в списке

вероятных кандидатов несколько раз, является хорошим признаком того,

что это слово действительно присутствует в высказывании,

Чтобы избежать избыточной обработки, авторы вводят понятие "нечеткого

словесного сравнения", которое обобщает сравнение с эталоном одного и

того же слова, появившегося примерно в том же месте. Всегда, когда слово-

кандидат подобно figure встречалось несколько раз, при расширении гипотезы

используются нечеткие границы. Итак, для слова figure предлагается

расширить гипотезу.

При обработке предложенного слова (с примерно известными

границами) процедура Syntax подбирает слово виос-зт, заканчивающееся

позицией 17. В прагматической грамматике hwim слово budget может

использоваться лишь в словосочетании budget figure и, так как это

словосочетание находится в конце предложения, никаких слов справа больше

не будет. Блок управления использует далее найденное словосочетание в

качестве расширенного "островка надежности" для поиска слов от позиции

II до начала высказывания.

Обращаясь к синтаксической процедуре, блок управления обнаруживает,

что прагматическая грамматика допускает еще несколько слов, кроме слов из

списка, рассмотренного ранее, для расширения этой гипотезы. 9то связано

с тем, что служебные слова,которые могут стоять перед словосочетанием

budget. figure , имеют слишком небольшой вес (очки). В результате

сравнения сегментов, расположенных слева от слова budget , и эталонов

слов, допускаемых прагматической грамматикой, получают новый список,

расширяющий предыдущий (в списке остаются лишь слова, оценки которых

превышают <DU очков):

40

33. OF 10 11 4 , - 16 - - Н

34. А 10 11 4 - 16 - - R

35. THE 911 -105 - 16 - - R

36. THE 9 11 -105 - 16 - - R

37. OUR 10 11 -123 - 31 - - R 3°. THE

9 11 -135 - 16 - - R

39. - S 10 11 -140 0 - - R

40. ANO 9 11 -163 - 26 - - R

41. OUR 911 -169 - 46 - - R

42. ME 9 11 -189 - 46 - - R

Каждое из этих слов может расширить гипотезу budget figure слева.

Посмотрим, что выберет блок управления. Наиболее подходящим (см. позиции 3

и ЯО) оказывается слово total ,которое используется лишь с определенным

артиклем THE. Таким образом, -удалось объединить уже четыре слова THE

TOTAL budget figure, для которых синтаксическая процедура в словесной

решетке отмечает слова "is" и " s ", найденные при первоначальном

сканировании ( - s- укороченный глагол-связка, допускаемый правилами

произношения). Синтаксис также предлагает и некоторые другие слова, но их

оценки (очки) меньше 100, тогда как is имеет вео 96 (см. позицию 7).

Поэтому переходим к новой гипотезе IS the total budget figure и

пытаемся ее расширить. При расширении гипотезы синтаксическая процедура

"подсказывает" слова what и но'.'? ыасн. Процедура лексического поиска

выбирает для начального участка высказывания слово v/hat с оценкой 176

очков и формирует окончательную гипотезу what IS the total budget

figure. Процедура "синтаксис" производит в заключение полный грамматический

разбор этой фразы.

Описанная "островковая" стратегия интерпретации высказывания одна из

нескольких, реализованных в системе hwim . Другие стратегии используют

словесную верификацию на параметрическом Уровне, предсказание слов на

уровне диалога, просодическую информацию и т.д.

Испытание системы hwim производилось на двух словарях: из 409 и 1097

словоформ, 124 предложения произносили трое дикторов" "ужчин. Точность

интерпретации высказывания составила 52% в первом случае и 44% во втором.

Процент высказываний, близких к пра-видьным, составил 23 и 20%

соответственно.

Основное отличие системы VDMS (Voioe-Controlled Date Manage-roent Sis.)

от ранее рассмотренных СПР Speeohlis.HWIM и Неаг-^-И заключается в

тим, что в ее основе лежит синтаксис спон-

Зак.480

41

тайного английского диалога [182] ; это позволяет использовать при

общении с системой сильно "усеченные" эллиптические выражения СПР.

Система vdms использует проблемно-ориентированный язщ доступа к

информационно-поисковой системе данных о подводном фаоте США,

Великобритании и СССР. Общий словарь языка составлял 450 слое. Система

имела возможность запонинать информацию о ранее произнесенных фразах и

декодировать текущие, имея результаты рас познавания предыдущих

высказываний. В системе vdms при интерпретации предложений наиболее полно

использована идеология искусственного интеллекта.

Общая структура vdms включает три основь-ле компоненты:

1) акустико-фонетический процессор, в результате работы которого

формируется массив данных, содержащих информацию о фонетическом строении

высказывания (А-матрица);

2) процедуру лексического сравнения, которая производит сравнения

предсказываемых слов, опираясь на слоговой уровень и используя акустико-

фонологические правила;

3) лингвистический процессор, который содержит блок грамматического

разбора (парсер) и управляющий блок диалогового уровня (discourse level

controller )> вктоочающий модель пользова-теяя и семантическую память.

Эксперименты с vdms показали, что речевой сигнал ограничивается

по полосе на частоте 9 кГц и поступает на 12-разрядный аналого-цифровой

преобразователь, где квантуется с частотой 30 кГц. Затеи оцифрованная

речь проходит через ЦАП и результирую щая аналоговая речь поступает на

три полосовых фильтра, имеющих полосы пропускания I&0 - 190, 990 - 2200 и

8000 - 5000 Гц. Через интервалы в 10 мс с фильтров снимались два

параметра - максимальная амплитуда и число нулевых пересечений.

Полученные шесть параметров использовались для грубой акустической

маркировки каждого десятимиллисекувдного отрезка.

Как только слово поступает в систему, формируется и хранится в

памяти информахцж о нем, в частности, отмечается, сколько высказываний тому

назад это слово было произнесено и былс ли оно использовано, насколько

вероятно, что это слово повторится еще раз. В системе учтено, что

различные контекстные слова предсказанные тематической памятью, "стареют"

от высказывания ч высказывании и вероятности их использования

уменьшаются. Вел* вероятность предсказанного слова Падает ниже заданного

нaпepe^ порога, то это слово какое-то время не рассматривается.Все

эт' в vdms выполняет блок диалогового уровня Discourse , являющийся

наиболее оригинальным блоком системы. Процедуры, которые

42

реализует Discourse, основаны на изучении,диаюга между двумя людьми,

совместно выполняющими некоторую работу. Ьыло найдено и Досмаяизовано

влияние контекста на характер диалога,причем рассматриваются два вида

контекстного влияния. Глобальный контекст обеспечивает один вид ограничений

при интерпретации высказывания. Эти ограничения используются при

идентификации группы существительных. Второй вид ограничений связан с

текущим контекстом соседних высказываний. Они используются при

интерпретации сокращенных, эллиптических выражений и, в частности,

добавляют дополнительные фрагменты к сокращенному высказыванию. В качестве

примера высказывания, которое может воспринять система VDl'iS , ыож" но

привести такое: "Напечатайте типы подводных лодок, на которых больше семи

ракет".

СПР vdms - spi построена на базе проблемно-ориентированного

языка,доступного информационно-поисковой системе данных о подводном флоте

США, Великобритании и СССР. Общий словарь системы составляет 450 слов [

182] , Система использует синтаксис спонтанного английского диалога, что

позволяет запоминать информацию о ранее произнесенных фразах и декодировать

текущие, используя предыдущие высказывания. Система vdms-sri наиболее

полно использует идеологию искусственного интеллекта при интерпретации

устных высказываний, которые могут быть сильно "усеченными".

Для испытания системы была проделана серия опытов, которые должны были

определять наилучшую структуру СПР подобного типа. Было испытано 16

экспериментальных систем, которые дали точность интерпретации высказываний

от 46,7 до 73,3%, причем если итерировать несущественные оаибки

распознавания, то точность (для наилучшей конфигурации системы) возрастает

до 81,7%. В [1в2~\ отмечается, что наиболее эффективной помощью при

реализации речевого диалога оказались использование и проверка контекста.

Начиная с 1976 г. начали появляться работы о построении СПР в

Западной Европе (Франция, Италия, ФРГ), Японии и СССР.Уровень исследований

по СПР в этих странах (объем словаря,сложность языка) пока ниже, чем работ,

выполненных в США по проекту arpa. Сяедует, впрочем, отметить, что

разработка "малых" СПР производится в соответствии с тенденцией [145] ,

которая заклта-в»оя в том, чтобы "заполнить пропасть" между практическими

сис-^мами распознавания слов и относительно громоздкими СПР, выполнившимися

по проекту arpa.

В С142]приведена таблица, которая, по мнению автора, характеризует

действительное состояние и будущее развитие коммерческих систем

распознавания/ понимания речи до 3000 г.:

431982 - БИС для системы распознавания речи.

1985 - Высокоточные системы распознавания изолированных слов с большими

словарями.

1990 - Системы автоматической диктовки с ограниченным словарем,

управляемые синтаксисом языка.

I&95 - Системы понимания речи с неограниченным словарем, но с

ограничениями на синтаксис.

2000 - Системы распознавания слитной речи с неограниченным словарем и

без ограничений на синтаксис.

§ 1.4. Системы автоматического речевого ответа

1.4.1. Коммерческие системы автоматического синтеза речи. В системах

автоматического речевого общения "человек-ЭВМ" важную роль играет

автоматический речевой вывод, позволяющий человеку получать необходимую

ему информацию в привычной форме речевого сигнала. Проблема

автоматического речевого вывода считается более простой, чем автоматическое

распознавание речи (в первом случае речь воспринимает человеческий мозг,

-; а во втором - автомат). Поэтому работы по построению систем

автоматического речевого ответа (САРО) промышленность получила раньше, чем

работы по автоматическому распознаванию/ пониманию речи. Синтезаторы

речи,являющиеся главными узлами таких систем, уже изготовляются

промышленностью США, Японии и некоторых других стран [30, 46, 51, 52,

100, 142] . В саязи с появлением микропроцессоров и специализированных БИС,

а также в связи с тем, что пользователи потребовали, чтобы информационные,

управляющие и другие подобные системы, основанные .на использовании ЭВМ,

"говорили", фирмы, выпускающие ЭВМ или отдельные узлы ЭВМ, начали выпуск

оборудования дея систем речевого ответа. Построены первые промышленные

системы, который обеспечивают одновременное автоматическое распознавание

(автоматический речеэой запрос" с использованием ограниченного лексикона) и

речевой ответ. Первое применение такие системы нашли в "интеллектуальных"

терминалах больших ЭВМ (или сетей ЭВМ), в некоторых системах военного

назначения, в приборах бытовой электроники [52, 60, I40t .

Следует отметить также, что продолжают развиваться научные исследования

в области создания систем автоматического синтеза. Эти работы,

направленные в основном на повышение качества (разборчивости и

естественности) синтезируемой речи (без существенного повышения объема

информации, требуемой для управления син-

44

двзатором), проводятся в США [103, 112, 129, 133, I??] , СССР f48, 63, 54]

, Японии [l3b,I62] , Великобритании [l64] , Канаде [167] , Франции [146

171] , Италии [l60,JSl] , Мексике [ill],Западной Германии [122, 184] ,

Норвегии [137] и других странах.

В [142] отмечается, что ЭВМ пятого поколения (мультиыикро-процессорные

машины) будут гораздо шире, чем современные ЭЗУ, использовать ввод и вывод

информации в речевой форме. Предполагается, что уже в ближайшее время ЭВМ,

оборудованные системами речевого вывода, настолько проникнут в нашу жизнь,

что совершенно изменят взаимоотношения человека и техники.

В основе систем автоматического речевого ответа, поступающих в настоящее

время на рынок, лежат три основных способа синтеза рэчи - непосредственное

кодирование речевой волны (дискрети-аация и сжатие), форматный синтез и

синтез, основанный на линейном предиктивном кодировании (линейном

предсказании). В [б] приводятся системы автоматического речевого вывода -

наиболее распространенные в настоящее время в США системы такого рода. Так,

в сис-томч Votrax процесс формирования устного высказывания по тексту,

поступившему из ЭВМ или с клавиатуры в закодированном виде,начинается о

разбивки текста на основные звуковые влементы - фонемы. Так как фонемная

цепочка, соответствующая тексту, не обеспечивает высокочастотной речи, то

эта цепочка программно преобразуется в цепочку аллофонных кодов (аллофоны -

это варианты произнесения фонем в зависимости от контекста; разные

исследователи называют различное число аллофонов для каждого языка;в

системе Votrax используется 12Ь аллофонов, что позволяет получать более

естественную речь). Для порождения слитной речи аллофоны Должны плавно

переходить друг в друга.

Каждому аллофону соответствует управляющее слово, воздействующее на

аппаратный синтезатор звуков, который в два этапа перерабатывает цепочку 12-

разрядных управляющих слов. На первом этапе Управляющее слово декодируется

и перерабатывается в аналоговые управляющие сигналы, задающие частоту

основного тона, длительность изменения во времени амплитуды и гармоник,

связанных с каждым ал-Яофоном. На втором этапе реализуется собственно

синтез. При этом параметрические сигналы, воздействуя на генераторы звука и

прог-Рачмируемые фильтры, преобразуются в звуки речи. Звонкие звуки

°оздаются с помощью генератора регулируемой высоты тона, а глухие - с

помощью генератора бел го шума.

В приборах Texas Instruments три большие интегральные сис-^ы (БИС)

моделируют голосовой тракт человека. В основе модели •вяит метод

линейного предсказания (или линейного предиктивного ко-

45

дирования - ЛПК). При ЛПК на кристалл синтезатора подаются значения

коэффициентов для цифрового фильтра второго порядка,который моделирует

динамику форматных частот. Вычисление коэффициентов фильтра производит

другая БИС - микропроцессор тыз -1000. Третья БИС хранит отдельные части

слов в параметрическом виде. Воссоздание речи по этим параметрам

осуществляет сложный программный алгоритм.

Преимущество метода ЛПК заключается в тс-л, что он позволяет

воспользоваться тем фактом, что голосовой тракт человека относительно

медленно меняет свои параметры при речеобразовании.Это свойство

ограничивает диапазон изменения форматных параметров, которые могут

следовать за форматами уже с генерированных отрезков звуков речи. Такое

прогнозирование уменьшает требования к объему памяти системы, а также к

скорости обмена данными; с описываемой системой она равна 1200 бит/с.

Синтезатор National Semiconduoton Inc. способен осуществлять анаяого-

цифровое преобразование речевых сигналов и сохранять их в памяти для

дальнейшего восстановления. Такой метод предполагает огромный объем

информации, которая должна храниться в памяти, что делает его

малопривлекательным. Однако в рассматриваемой системе эта трудность

обходится за счет использования различных методов сжатия данных. Это

позволило реализовать качественный синтез речи во временной области на

уровне &1С.

Дискретизацию и сжатие исходной речи, записанной на магнитной ленте,

осуществляет мини-ЭВМ. Результирующие данные сохраняются в постоянном

запоминающем устройстве (ПЗУ) для последующего восстановления,

осуществляемого БИС процессора речи. Благодаря применению Трех методов

сжатия (подстройки фазового угла, дельта-модуляции и полупериодного

обнуления) скорость поступления данных, по которым восстанавливается

нормальная речь, снижается примерно до 1000 бит/с речи, так что по ПЗУ

емкостью 10 кбит можно хранить примерно 10 слов.

Процесс сяатия начинается с дискретизации аналогового речевого Сигнала и

разделения цифрового массива на участки, в каждом из которых 128 оГсчетов;

эти участки в какой-то степени характеризуют периоды основного тона. Для

получения набора цифровых выборок, аналогичных формируемому предложению,

подстраиваются фазовые углы этих отрезков. Дальнейшее сжатие

осуществляется с помощью дельта-модуляции, в результате чего вместо

хранения абсолютной амплитуды каждой выборки в память записываются только

знаки приращения амплитуд относительно предшествующего значения.

46

рассмотрим далее более подробно несколько современных систем

параметрического синтеза.

В ГЮО] описана разработанная фирмой Texas Instrument a программа,

позволяющая преобразовывать произвольный текст в речь. Программа совместно

с интегральным синтезатором речи типа tms-5й00 позволяет читать вслух

информацию, отражаемую на экране дисплея домашнего компьютера 9S14. В

отличив от Speak and Spell система не иоподозувт записанные ранее в ПЗУ

слова и фразы, а синтезирует слова из 128 аллофонов (аналогично системе

Votrax описанной ранее), которые объединяются системой для образования

слитной речи. Программа преобразования текста в цепочку аллофонов выбирает

аллофоны из библиотеки и определяет их ударение и интонацию. Затем эта

информация поступает в блок синтеза речи, который формирует звуки,

используя кодирование, основанное на линейном предсказании.

Блок-схема преобразования текста в речь, реализованного Texas

Instruments, представлена на рис.I.I.

Аллофоны имеют переменную длительность от 50 до 200 мс и кодируются в

соответствии с параметрами, необходимыми для организации синтеза,

основанного на линейном предсказании. Библиотека аллофонов, включающая

длинные и короткие паузы, кодируется по энергиям и коэффициентам,

необходимым для установки характеристик фильтра ЛПК-синтезатора.

Библиотека аллофонных кодов занимает 3 кбайта памяти.

Для преобразования текста, поступающего на вход в пооледова-тедьность

аллофонов, используется набор из 650 правил, который в процессе испытаний

обеспечивал правильный выбор 97^ фонем и 92% аллофонов. Правила занимают 7

кбайт памяти. Программа конструиро-

Синтез речи

Конструирование речи (программное формирование кодовой аллофонной цепочки)

|Вход|Правил| |Преобразо|1|Центр|

|ное |а | |вание |+|альны|

| |преобр| |аллофонов|1|й |

| |азован| |в данные | |Проце|

| |ия | |для | |ссор |

| |текста| |синтезато| | |

| |в | |ра | | |

| |аллофо| | | | |

| |ны | | | | |

|текс| | | | | |

|т | | | | | |

[pic]

|Упра| |Син|Ре|

|влен| |тез|чь|

|ие | |ато| |

|Памя| |р | |

|ть | |реч| |

| | |и | |

| | |тае| |

| | |- | |

| | |520| |

| | |0 | |

| | | | |

| |. 1 | |

| |перед суффиксами <t/ и Ing .е^

Правила модификации признаков

3. [\tfns\—-[-tens'] /_ [+ ret]

Применение ТМ-оравмя к сяоэу carlna дает:

< с а г е + i n (f буква буква

букм буква буква буква буква соги. глас. согя. гяас.

пас. согя. согд.

Таким обозом, эти аравияа вводят новую букву е , а также опредедяшт

границу модемы "+" и суффикса " •". (Введенные си»»-воям служ*»т важной

частью иравия контекста, которые исоояьауются С- и / М-правияами.)

Модифицированный текст и связанные с ним признаки далее обрабатываются

С-оравмяаыи, которые формируют фонетическую цепочку из последовательности

буке, полученных на предыдущем ваге. С-иравияо (рис. 1.Ь ), например,

показывает, что буква "а" произносится, как "е", когда она предшествует

одиночной согяас-ной, за которой сявдует эаканчиваиаая морфему буква "е".

(Это

70

Оравию применяется к "а" в w»e Bathing,гд,» звуки " th " проиэ. косятся

как один согяасный, но не к "а" в слове taxina , где •х'1 произносится как

два согласных.) Результат применения всех оравил конверсии к сдову carinq

позвояяет пожучить ояедующгю вались:

9

согл. взрывной,

подъема, альвеолярный велярный, передний звонкий

+ А- е г -+. I n согл. гдас. согя.

глас. con. взрывной, среднего ретро- верхнего назальный,

велярный, пид-ьеыа, Фявчсный подъема, гяухой передний

Если правила модификации текста изменяют текстовую цепочку непосредственно,

то С-правила формируют ноаую цепочку (фонем) на основе tm{iupuaiyiH.

заключенной в текстовой цепочке, F/И-пра-

•ила модифицируют фонетическую цепочку, применяя прарила контекстной

зависимости х матрице признаков и включая или устраняя соот катет йущяв

сегменты. Так. ГМ -правило устанавливает, что напряженный гласный

становится напряженным перед ретрофлексными звуками. Другии /^"дравидом

яуяяетая правило объединения п и д , когда произносится п . Все эти правила

использовались совместно с английскими правилами порождения параметров,

соответствующих фонемам, для похучения речевой волны.

В [%] рассматривается математическое обеспечение однокристальной

микроЭВМ модели <»20, преднааначенной для обработки сигналов. Благодаря

наличию аналоговых входных и выходных схем М высокому быстродействию она

легко может быть перестроена для синтеза речи. На атой микроЭВМ можно

реализовывать различий способы синтеза речи. Описаны программы,

моделирующие работу генератора голосовых импульсов (программа формирует ряд

асимметричных треугольных импульсов), а также генератор шумового сигнала,

который моделируется при помощи генератора псевдослучайных чи~ Св*. Для

моделирования передаточных функций речеобразумаего тра-«»а разработаны

программы модификации выходных значений сигна-

*ов, поступающих с выхода генератора голосовых импульсов и гене-Р»тора

шумовых сигналов. Для втого применяют моделирование рекурсивных фильтров с

переменными временными параметрами и ыиогоавен-чах. В [96] приведена

типичная программа для одного звена ччогозввнного фнютра, управляемого

параметром, который иивет раз-чые значения для различных звеньев.

Отмечается, что для пос-•Ровния типичного синтезатора речи требуется два

микропроцессора ®20; первый обеспечивает работу генератора воабуадаицих

сигна-

71

лов и моделирование нескольких первых звеньев многозвенного фидьтра,

а второй - для остальных звеньев этого фильтра. Для построения

форматного синтезатор»» достаточно воспользоваться одним микропроцессором

2920. Речевой тракт моделируется здесь последовательностью рекурсивных

фильтров второго порядка (в [96] при» водится программа такого фильтра).

Для удовлетворительного синтеза последовательно включают не менее трех

звеньев,моделирующих три форманта.

1.4.6. Отечественные системы автоматического речевого вывода. Основные

работы по автоматическому синтезу речи связаны с построением

параметрических синтезаторов [6,43, 48-50, 53, 70, 75]. Некоторые из

систем речевого вывода информации из ЭВМ внедрены в опытную эксплуатацию

[43,48] , другие - близки к внедрению [6, 70,78] , третьи - используются

в экспериментальных установках [50, 56] .

Развитие работ по построению систем автоматического речевого вывода

ведется в нашей стране в широком диапазоне - от фо" немных синтезаторов

до словесных и даже фразовых временных компиляторов.

Если в работах первого направления, при которых фонема

рассматривается как набор заданной последовательности движения

артикулятороа в артикулчторной программе, стремятся к компактности

представления генерируемого речевого сообщения и универсальности,

обеспечивающей речевое отображение произвольной текстовой информации, то

в компилятивных временных синтезаторах второго направления делается упор

на разборчивость и естественность скомпилированных высказываний (в

ущерб универсальности и компактности представления сигнала).

Одним из наиболее типичных синтезаторов параметрического типа

является ортогональный синтезатор речи [48] . Синтезатор предназначен для

выцачи голосом из ЭВЫ в телефонный канал счетов-справок о стоимости

состоявшихся междугородных переговоров городской телефонной сети. Речевой

сигнал (слово ограниченного по объему словаря) представлен временными

изменениями параметров сигнала - логарифмов огибающей амплитудных

спектров. Речевые ответы (фразы) вначале формируются в виде списков

номеров слоя, речевые эквиваленты которых затем посегментно объединяются

и выводятся на синтезатор. Отмечается, что разборчивость синтезируемых

фраз близка к 100%, скорость вывода речевого сигнала на синтезатор равна

12 бит/с.

При артикуяяторно-форматном синтезе речи по печатному тексту L6.^] в

качестве минимального артикуяяторного компдйкса

72

используется элементарный слог, представленный набором артикуля-торных

команд способа и места образования входящих в него фонем. Процесс

реализации слога делится на три основные фазы: переходная фаза от

предыдущего слога к данному, фаза реализации согласной фонемы и фаза

реализации гласной. Синтезатор учитывает просодические характеристики

естественной речи, а также то обстоятельство. что в ней могут встретиться

сочетания согласных и гласных фон-эы. Система синтеза в последнем случае

вводит фиктивные согласные и гласные, разбивая речевой поток не

слоги,причем фиктивным звукам приписывается длительность, равная нулю. Для

автоматического задания интонационных характеристик фраз в синтезируемой

текстовой информации выделяются ранжированные единицы:

фраза, синтагма, фонетическое слово, слог. При автоматической обработке

синтезируемого текста определяется число единиц ранга К в единице ранга K-

I, номер логически выцеденной единицы ранга К, а также тип интонации.

Для моделирования алгоритмов синтеза использовалась универсальная мини-

ЭВМ, обдацаищая быстродействием 200 тыс. операций в I с и оперативной

памятью 16 кбайт. Объем программ нодедм синтеза речи составляет 1200 32-

разрядных команд. В настоящее время принципы технической реализации

артикуляционного синтезатора легли в основу разработки стандартного

устройства речевого вывода с микропроцессорным управлением для ЕС ЭВМ [б] .

Появились первые синтезаторы, основанные на параметрах линейного

предсказания [55,78].

В нашей стране и за рубежом появляется также интерес к устройствам речевого

вывода, основанным на компиляции речевого сигнала, соответствующего фразам,

из более мелких отрезков речевой волны: слов, слогов, аллофонов

['44,96]. Подобные синтеза-Юры предназначены для информирования

пользователей ограниченным количеством типов фраз, часто вполне

достаточным. Большие же затраты памяти для хранения в цифровом виде

элементов, из которых формируются фразы, не так страшны, потому что новые

виды запоминающих устройств (например, на цилиндрических магнитных до-

хенах) позволят хранить в малых объемах десятки мегабайт. В СССР работы

по компиаятивному выводу ориентированы на использование в качестве

основного элемента синтеза как слов, так и схо-^в. Предполагается, что

такой синтезатор компилятивного типа ^УДет изготовлен серийно.

Зак.480

Страницы: 1, 2