Свойства объекта
| Дескриптор | |
| название | tokenization |
| язык | английский |
| релятор | |
| определение 1 | The process of segmenting text into linguistic units such as words, punctuations, numbers, alphanumerics etc. |
| автор словарной статьи | Соколова Е.Г. |
Связи объекта |
|
| Ассоциируется с (RelatedTerm) | |
| Дескриптор | |
| lemmatization | |
| pos-tagged corpus | |
| Встречается дескриптор в разделе источника (SourceDescriptorPart) | |
| Источник | Раздел источника |
| Учебник-обзор Mitkov R. (ed) 2003 | глоссарий |
| Дается определение в (SourceDef) | |
| Источник | определение |
| Учебник-обзор Mitkov R. (ed) 2003 | 1 |
| Подобласть знаний(SubArea) | |
| Подобласть знаний | |
| 2.1.1. Сегментация текста – Text Segmentation | |
| Эквивалент на другом языке (Trans) | |
| Дескриптор | |
| сегментация текста | |

