Журнал "Системы Безопасности" № 6‘2023

Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 125 www.secuteck.ru декабрь 2023 – январь 2024 В 2023 г. искус- ственный интел- лект (ИИ) вышел за пределы лаборато- рий и те потрясаю- щие возможности, которые ранее были доступны лишь некоторым органи- зациям, стали доступны каждому. Эти технологии сопоставимы с изобретением Интернета или электричества, качественно изменившими в свое время нашу жизнь. Об этом мы писали весь год, и практически каж- дый месяц появлялись новые, качественные прорывы в этой области. Механизм понимания человеческой речи Интересно, что в основе прорыва в области искусственного интеллекта лежат генератив- ные нейронные сети, или же, по-другому, LLM (большие языковые модели). Эти моде- ли используют алгоритм GPT (Generative Pre- trained Transformer). Модели данного типа обучены понимать и генерировать человеко- подобный язык, способны создавать текст различных форматов – короткий и длинный, резюме, переводы и даже поэзию. Основная особенность этих моделей заключается в их способности понимать сложные запросы, идиомы и разговорные выражения и генери- ровать персонализированные ответы на основе предыдущих взаимодействий с поль- зователем. В LLM слова и фразы представлены в виде числовых токенов, что является основной еди- ницей обработки текста. Каждый токен коди- руется числовым значением. При генерации текста модель предсказывает следующий токен, основываясь на предыдущих. Напри- мер, если пользователь начинает предложение со слова "солнце", модель может предсказать следующие слова – "светит" или "высоко", в зависимости от контекста и от уже обученных данных. Философский инструмент Удивительно, но этот железный "статический предсказатель" ставит перед нами сложные философские вопросы: а что есть такое чело- веческое мышление? не являемся ли мы сами такими же "статическими предсказателями" на биологической платформе? Ведь мы думаем словами, нашим внутренним монологом, подставляя слова в предложения, наиболее подходящие по смыслу в конкретной ситуации. Не зря говорят, что если человек находится в стрессе, то он не может "связать двух слов", ему не хватает слов, чтобы выра- зить мысль, – человек буквально зависает, не может закончить предложение, и это останав- ливает его при формировании мысли и влияет на его дальнейшие действия. Люди тоже обучаются с помощью слов, с само- го своего появления на свет, но формировать более-менее связную логическую речь мы спо- собны лишь по прошествии нескольких лет! Существует фраза "Мир есть текст", то есть наше мировосприятие возможно лишь только через призму слов, через них мы познаем нашу реальность. По мнения Юваля Ной Харари, известного историка и футуролога, наш вид стал разумным лишь тогда, когда мы начали общаться словами, делиться эмоциями и рас- сказывать друг другу "истории", то есть при- мерно 70 тыс. лет назад. Возможно, дальнейшее развитие искусствен- ного интеллекта и, в частности, LLM создаст то "зеркало", которое позволит нам посмотреть на себя со стороны, лучше понять себя и ответить на вопросы "Кто мы?", "Почему мы разумны?" и "Что есть сознание?". Генное редактирование Я думаю, что еще один факт, которым запом- нится 2023 год в истории, – это первое офи- циальное разрешение использования техноло- гии CRISPR, полученное на уровне медицин- ского регулятора страны (MHRA в Великобри- тании). Да, с ограничениями: только два наследственных заболевания, пациент не моложе 12 лет, рекомендована транспланта- ция костного мозга, но нет возможности найти подходящего донора. Напомню, речь о технологии редактирования генов, которая долгое время запрещалась для использования на людях из-за этических раз- ногласий. Китайский ученый, который под- польно отредактировал гены у трех детей на стадии эмбрионов для устойчивости к ВИЧ – а их матери были больны ВИЧ, – попал за это в тюрьму на три года. Опасность этой технологии для человечества состоит в том, что вначале ее действительно начнут использовать для тяжелобольных, для исправления дефектного генома, но точно на этом не остановятся. Наверняка в какой-то момент мы решим использовать ее на здоро- вых людях для улучшения определенных свойств, например программировать у заро- дышей мощные мускулы, цвет глаз, а затем поэкспериментировать, добавив, например, хвостик или крылышки. Потенциально подоб- ные эксперименты могут привести к разделе- нию человеческого вида на несколько несо- вместимых видов. Ранее этот процесс блоки- ровался на государственном уровне, но мы видим, что начало положено. Как бы не остался в истории 2023-й годом, когда пошел обратный отсчет нашего вида Homo sapiens. n Алексей Коржебин Эксперт редакции журнала "Системы безопасности" КОЛОНКА ЭКСПЕРТА Нейросети и генная инженерия – технологии 2023 года Заканчивается 2023 год – год, который точно войдет в историю, год, который прошел под знаком ChatGPT и искусственного интеллекта, год, который перевернул наше понимание о возможностях компьютера и методах взаимодействия с ним www.pxhere.com Л юди обучаются с помощью слов с самого своего появления на свет, но формировать более-менее связную логическую речь способны лишь по прошествии нескольких лет. Алгоритм GPT обучается гораздо быстрее…