Чего не было в кодировках

И до чего до сих пор так и не додумались

Автор хотел бы обсудить некоторые недостатки текущей версии юникод и поговорить с сообществом о дальнейших путях его совершенствования. Проблема, на наш взгляд, состоит в том, что unicode.org не систематизировала результаты своей работы, в результате чего не одна только компьютерная индустрия понесла потери. Если просуммировать, масштабы будут очень велики.


Имя собственное и аббревиатура - два новых управляющих символа

Во всех программах - поисковых серверах, базах данных, CAD-системах, текстовых редакторах - необходимо искать слова и сравнивать варианты написания слова: все буквы строчные, первая буква прописная, все прописные буквы. Кроме того, пользователь иногда пишет в строке поиска с ошибками или озаглавливает искомый объект с ошибками - одна лишняя буква, одной буквы не хватает, одна буква изменена. Если в кодировке прописную букву обозначать строчной с дополнительным байтом впереди, то сравнение вариантов написания сводится к поиску с опечаткой, а значит один алгоритм можно уже не реализовывать. К тому же освободится половина мест в таблице кодировки, можно разместить больше символов (ISO уже застолбила стандарт 4-байтной кодировки под названием ISO 10646). Префиксным байтом можно маркировать имена собственные и аббревиатуры на языках без прописных букв, что в дальнейшем поможет поисковым серверам. На степени архивации текста нововведение никак не сказывается. В деталях оно выглядит следующим образом.

В тех случаях, когда встречается имя собственное или начало предложения, поставить один префиксный байт перед словом (будем условно изображать его как ), чтобы указать, что следующая за ним буква прописная (anna -> Anna). Назовем этот префиксный байт знаком "имя собственное". Аналогично для аббревиатур, достаточно одного префиксного байта перед словом, чтобы указать, что все буквы до следующего пробела прописные (uno -> UNO). Назовем этот байт знаком "аббревиатура". Пользователь по-прежнему ставит префиксы сам, нажимая клавиши "Shift" и "Caps Lock".

На взгляд автора международная организация поступила очень недальновидно, выбрав расточительное кодирование. И повторила распространенное заблуждение, отождествив обозначение букв (кодировку) и их графическое изображение (шрифт). Это совсем разные вещи.


Индексы и пределы: пять управляющих вместо прежних двух печатных

Индексы прочно вошли в нашу жизнь: без них невозможно такое социальное явление, как наука, - разумеется, без них немыслима такая всеохватывающая индустрия, как программирование. Поражает убогий, пещерный способ записи индексов в текстовых файлах - с помощью квадратных скобок. Он заставляет нас воссоздавать математические записи в своем воображении. Поднимая вопрос на принципиальную высоту, то же самое нужно сказать о пределах интегрирования и суммирования. Мы могли бы видеть индексы и пределы "на своих местах" в обыкновенных текстовых файлах, а не только в системах типа MathCAD, если бы у нас была разумная кодировка для них. Например, такая.

Пусть база - надпись, для которой индексы и пределы записываются, индексы и пределы вместе назовем довесками, и пусть управляющие символы , , , обозначают, что с них начинаются нижний предел, верхний предел, нижний индекс, верхний индекс. Между базой, управляющими символами и довесками нет никаких пробелов и вместе они составляют одно слово. У пределов бывают индексы, у индексов - субиндексы. Будем использовать управляющие символы как вложенные открывающие скобки, а не предварять довесок таким их количеством подряд, на каком уровне вложенности довесок находится. Однако чтобы вернуться на один уровень вложенности назад, потребуется еще один управляющий символ "возврат" . Таким образом, слово aij отображается как , слово aij - как , а числа можно записывать в виде -3.71*10-14. На клавиатуре потребуются 5 новых клавиш, или их роль должны выполнять функциональные клавиши.


Корень, дробь, интегралы и скобки: десять печатных символов превратить в управляющие

Также убого выглядит невозможность записать в текстовом файле общеупотребительные формулы с корнем, дробью, интегралами и фигурными скобками. А ведь все эти символы в таблице кодировки есть, но конформизм не позволяет проинтерпретировать их как управляющие. Неоднозначность только в том, какой символ - слэш или обратный слэш - использовать для обозначения дроби. Символ слэш оставим - вдруг кому-то захочется созерщать скрытую красоту выражений 1/2 или 3/4 - и обратимся вместо него к символу обратный слэш. Таким образом, выражение (a+b+c)/(d+e) должно отображаться как , а выражение (a+b)(c+d) - как . Такие конструкции легко рисуют все математические программы и виртуозно опознают, на какое из слагаемых пользователь передвинул курсор стрелками на клавиатуре или мышью. Еще проще поведение трех пар скобок и двух интегралов (простого и кругового ) - открывающие скобки и интегралы равны по высоте следующему за ними выражению, закрывающие скобки - предшествующему.


Два вида диакритических знаков

Существует два принципиально разных вида диакритических знаков. Первые - будем называть их диакритическими некомпактами - входят в состав буквы и являются ее неотъемлемой частью, примерами чего являются все буквы латинского, кириллического, а также согласные арабского алфавитов. Вторые - будем называть их диакритическими буквами - обозначают отдельную букву, примерами чего являются все гласные индо-арийских, дравидийских, арабского, еврейского алфавитов. В этих языках не горизонтальное и не вертикальное направление письма, а чередующееся (следующая буква может быть как над или под предыдущей, так и после), и только фильтр в голове не позволяет это увидеть.

Кодирование двух букв - обычной и диакритической - в любом случае потребует двух байт. Если кодировать обычные и диакритические буквы по отдельности и отображать последние не в следующем знако-месте, а в предыдущем путем операции "or" с ним, то редактирование одной буквы слога не потребует замены кода другой буквы, т.е. не потребует замены кода всего слога тем же целиком. Операция "or" выполняется с одним и знакоместом для всех подряд идущих диакритических букв (см. примечание для индо-арийских алфавитов на computer20.euro.ru/ru/ar.htm).

Представляется, что международная организация unicode.org поступила нерачительно, даже не попытавшись свести многомерную задачу к одномерной.


Расположение алфавитов

В Индии существует множество родственных индо-арийских языков. У них очень разные алфавиты. Можно было бы обычные и диакритические буквы (или слога) разных языков, обозначающие один и тот же звук, кодировать одинаково (computer20.euro.ru/ru/i.htm), а для придания начертания, соответствующего тому или иному языку, добавлять перед текстом два байта - управляющий символ и номер языка. Тогда житель Индии, не знающий алфавита своего соседа, мог бы прочитать сообщение на своем алфавите (звучало бы оно, наверное, так же, как для русского, читающего на белорусском или украинском), не перекодируя весь текст, а только изменив один байт - номер языка. Одного байта на идентификатор языка хватит - на планете используется только 67 алфавитов.

Аналогично, в Индии существует множество родственных дравидийских народов. И у них тоже сильно отличающиеся алфавиты. И их тексты также можно было бы перекодировать, изменяя только один байт. А чтобы не увеличивать количество идентификаторов языка, коды букв дравидийского алфавита могли бы продолжать коды букв индо-арийского. Для удобства запоминания идентификаторов, пусть они обозначают алфавиты по часовой стрелке в порядке следования по окружностям на географической карте (computer20.euro.ru/ru/m.htm): малаялам - каннара - телугу - тамильский, деванагари - гуджаратский - гурмукхи - ассамский - бенгальский - ория - сингальский.

Номер языка мог бы нести дополнительную функцию. Для индо-арийских, дравидийских и еврейского алфавитов - включать механизм отображения диакритических букв (см. под-заголовок в этой статье "Два вида диакритических знаков"). Для арабского (computer20.euro.ru/ru/a.htm) - переводить курсор на новую строку, включать отображение букв справа налево (слова не нужно было бы выравнивать по правому краю в языке разметки текста или в проприетарным формате файла), выбор нужного варианта начертания буквы в зависимости от положения (в начале слова, в середине, в конце, в изолированном состоянии), а также специфическое не-европейское начертание цифр и трех знаков пунктуации (запятая, точка с запятой, вопросительный знак). Для корейского - включать алгоритм упаковки букв в иероглифы по часовой стрелке. Ну и в связи с нашим предложением выше о кодировании прописных букв, номер языка мог бы включать интерпретацию управляющих символов "имя собственное" и "аббревиатура" для латинницы, кириллицы, греческого и армянского. Будем называть далее все печатные символы, приходящиеся на один и тот же идентификатор языка, страницей.

Две сотни символов той страницы, которая выбирается автоматически, если не указана в начале текста, желательно отдать под знаки, обслуживающие переписку наибольшего количества людей на земле. А не кодировать некоторые из таких языков (в т.ч. русский) двумя байтами, как в UTF-8. Экономия локальных накопителей информации и международного трафика очевидна. В одну страницу вполне влезают латинница, кириллица и греческий. Расположение этих букв и рассмотрим.

Латиницу (103 буквы которой можно увидеть в Большой Советской Энциклопедии или на computer20.euro.ru/ru/ul.htm) и кириллицу (89 букв, также в БСЭ или на computer20.euro.ru/ru/uc.htm) внесем в кодировку целиком (а не многократно в виде своих подмножеств). Также, чтобы избежать дублирований, постараемся выбросить из кириллицы символы, повторяющие символы латинницы, и разместить оставшиеся посреди латинницы, не нарушая порядок сортировки. Примем компромиссы. Первый, буквы 'c' и 'l' (а также вариант первой с диакретиком) расположены в латиннице в начале, а в кириллице в конце, выбрасывание их в одном слишком бы нарушило сортировку в другом, поэтому расположим буквы дважды. Второй, четверть букв 'a' (три штуки) можно расположить один раз, сохраняя сортировку только в одном из алфавитов - расположим один раз и сохраним в латинском, т.к. все три буквы с диакретиками: на нерусских языках публичные базы данных находятся в зачаточном состоянии, и к порядку букв в них еще никто не привык (а на случай, если бы такая привычка уже возникла, участки расположения всех букв 'a' в обоих алфавитах одинаковы, и использование латинского порядка только для трех из них не обнаружится при поиске слова на основе минимального количества перестановок букв). Итого 177 букв, computer20.euro.ru/ru/u.htm. Букву 'o' удалим из греческого, часть алфавита до нее (14 букв) разместим перед латинско-кириллическим, а часть (9 букв) - после. Начертание буквы "сигма" пусть зависит от настроек ОС, вместо того, чтобы присутствовать этой букве в двух местах алфавита - как уже было сказано, не надо путать кодировку и шрифт, кодировка должна быть одна для всех начертаний, обозначающих одну и ту же букву.

Ну и последнее. Математические символы и спецсимволы расположим не на той же странице, где алфавит науки (греческий), а на отдельной, т.к. их количество будет все время увеличиваться, и неизвестно, какие же из них будут в разные моменты времени наиболее употребительными.

На каждой странице и в одних и тех же местах расположены цифры, знаки припинания, знаки арифметических операций, скобки, управляющие символы (чтобы не переключать страницы только из-за этих символов при переписке на одном алфавите). Каждое из этих подмножеств не перемежается с другими, чтобы можно было определять принадлежность символа к подмножеству всего двумя операциями сравнения (для верхней и нижней границ). Исключения составляют, с одной стороны, знаки "имя собственное" и "аббревиатура", с другой - "перевернутые" восклицательный и вопросительный знаки. Первые существуют только на латинско-кириллико-греческой и армянской страницах; а перевернутые знаки, встречающиеся только в испанском и к тому же одновременно с нормальными, существуют только на латинско-кириллико-греческой странице.

И будем использовать два символа-переключателя страницы подряд для перехода на двухбайтную кодировку - для иероглифов и букв, перемежающихся с иероглифами, т.е., кроме хираганы и катаканы, в двухбайтной кодировке закодированы еще раз корейский и латинница (смесь последней с иероглифами встречается во вьетнамском). Разумеется, в двухбайтной кодировке какой-то символ должен переключать назад в однобайтную.


Цвет, наклон, подчеркивание, размера шрифта и жирность - ещё три новых управляющих символа

Давайте посмотрим правде в глаза - текст не обходится без разметки. То там нужно жирностью выделить, то здесь нужно гипер-ссылку поставить. Однако ни один из многочисленных языков разметки или проприетарных форматов файлов невозможно скормить видеокарте непосредственно, что ложится лишней головной болью и ОС, и на ПО, и не везде можно эти языки и проприетарные форматы применить. Предлагаю для цвета, наклона, подчеркивания, размера шрифта и жирности как для действительно используемых ввести обозначение прямо в текстовом файле. Давайте перестанем сопротивляться и примем необходимое (а не "всё", как боятся некоторые самозабвенные критики). Пояснения требует разве что изменение размера шрифта посреди текста. Есть такое понятие - агрессивный пейзаж. Это - длинная повторяющаяся последовательность, например, одинаково окрашенные окна на однотонной стене (вы заметили, строители разукрашивают стены как матрешки?), или череда гиперссылок шрифтом одного размера. Да-да, именно поэтому вы периодически встречаете сайты (надо сказать, правильно оформленные), на которых куча ссылок дана шрифтами разного размера - чтобы глаз имел опорные знаки внутри этого участка текста.

Перед выделяемой фразой разместим управляющие символы "начало фракции" и "середина фракции" , а после нее - символ "конец фракции" . Между первыми двумя управляющими символами находятся байт-предсказатель и (опционально) фракционная запись. В байте-предсказателе используются шесть бит, первые три из которых указывают, какие поля присутствуют во фракционной записи (если все три бита равны нулю, значит длина фракционной записи равна нулю, т.е. ее нет совсем). А содержать она может целочисленные цвет, размер шрифта и некоторый идентификатор, которым метится данный участок текста (этот идентификатор выполняет ту же роль, что и якорь HTML, и сообщается видеокартой программному обеспечению, когда пользователь кликает на фразу). Последние три бита байта-предсказателя указывают, что фраза подчеркнута, жирная или наклонная. Условимся участок текста от символа "начало фракции" до символа "конец фракции" называть фракцией и договоримся, что фракции не могут быть вложенными - для упрощения аппаратуры, отображающей текст.

Дмитрий ТЮРИН,
sql50@narod.ru

Версия для печатиВерсия для печати

Номер: 

13 за 2010 год

Рубрика: 

Размышлизмы
Заметили ошибку? Выделите ее мышкой и нажмите Ctrl+Enter!

Комментарии

Аватар пользователя посетитель интернета
по моему маленькому мнению проблемы обсуждаемые автором далеко выходят за пределы кодировки символов.

Для описания математических формул Tex или MathML существуют, а лигвистицеский/орфографический/... анализ тоже к кодировке мало отношения имеет.

Просто unicode.org видимо решило не лезть за пределы заданной проблемы - а для последующих проблем надо просто след. решения разрабатывать. Для математики напримео они существуют и намного более развитые чем индексы и т.п.

Аватар пользователя mike
О, теперь ISO, почитав "КВ", задаст перцу этой Unicode Inc!
Аватар пользователя Олег Цвырко
В IT индустрии ОГРОМНОЕ число "ляп". В статье указана одна из них. Для примера можно указать ОТСУТСТВИЕ на клавиатуре ЕДИНОЙ КЛАВИШИ ПЕРЕКЛЮЧЕНИЯ на национальный алфавит...Мелочь?
Аватар пользователя mike
>можно указать ОТСУТСТВИЕ на клавиатуре ЕДИНОЙ КЛАВИШИ ПЕРЕКЛЮЧЕНИЯ на национальный алфавит...

Мечта поэта?

Аватар пользователя Marmot
> ОТСУТСТВИЕ на клавиатуре ЕДИНОЙ КЛАВИШИ ПЕРЕКЛЮЧЕНИЯ на национальный алфавит

В компьютерах серии ЕС такие клавиши на клавиатуре (РУС, Рус/Лат) были давным-давно! Правда, эта клавиатура была не 100% совместимой с IBM PC.

А по теме статьи: согласен, "unicode.org видимо решило не лезть за пределы заданной проблемы - а для последующих проблем надо просто след. решения разрабатывать."

В добрые старые времена кодировок было меньше, а порядка - больше! :)

Аватар пользователя mike
>В компьютерах серии ЕС такие клавиши на клавиатуре (РУС, Рус/Лат) были давным-давно!

Знаем, работали. :) ИМХО две луДше: одна клавиша слева -- кириллица, другая справа -- латиница. Не надо думать, в каком регистре находишься. Начинаешь латиницей -- торк справа, кириллицей -- торк слева. И никаких понтосвитчеров!

Аватар пользователя психиатр
Прочтя до конда данный текст я обнаружил что автор подвержен комплексу психических заболеваний, на почве беспричинного коддинга и мании исправления существующего миропорядка))

Если серьезно - то стилистика этой статьи, изобилующей многочисленными попытками введения новых терминов, с частыми характерными речевыми оборотами, выражающих негативное отношение автора к организациям, ответственным, по его глубокому убеждению в недостаточной проработке проблеммы удобочитаемости закодированной информации наводят меня на грусные размышления о его психическом здоровье..

К сожалению, в последнее время случаи шизофрении среди программистов с неудачной профессиональной карьерой, становяться обычным явлением!

Аватар пользователя психиатр
Но его претензии к Unicode - это только небольшая надводная часть айсберга его неудовлетворенностью существующим положением вещей! Как показали результаты поиска Google - данный автор имеет комплекс предложений по улучшению SQL,HTML (доверсии 6.9),Computer (что он под этим имел в виду - непонятно)и т.д.

Создав множества сайтов со своими теориями, он все больше усугубляет свое заболевание..

Аватар пользователя психиатр
Можно подвести итог, или точнее диагноз - автор заболел современным заболеванием продвинутых программистов - а именно "Псевдосинергетикой"

цитата из wiki:

(Наблюдаются случаи использования терминологии синергетики для придания веса псевдонаучным изысканиям. Отмечается, что некоторые стали представлять себе и широкой общественности синергетику как «панацею», решающую коренные вопросы во всех науках, в том числе — в гуманитарных, при этом зачастую на фоне некритического отвержения классических и апробированных подходов и теорий)

Или по простому - псевдонаучный бред!

Переполненность разума потоком всевозможных данных требует от человека создать взаимосвязи между ними и рождает логически связанный поток новых бесполезных теорий! В поэзии это называеться "белый стих"..

Добавить комментарий