Журнал "Системы Безопасности" № 2‘2023

Б И З Н Е С . И Д Е И И М Н Е Н И Я 80 апрель – май 2023 www.secuteck.ru И зменения, кото- рые принес миру ChatGPT, поистине револю- ционные, сопоста- вимые с появлени- ем Интернета или изобретением дви- гателя внутреннего сгорания. Сейчас фактически каждый день выходят новости о новых языковых моде- лях, о новых методах их применения. Есте- ственно, подобные изменения вызвали значи- тельный экспертный и общественный резо- нанс. Нашумевшее письмо Особенно ярко подогрел дискуссию Илон Маск. Он инициировал открытое письмо с тре- бованием ввести мораторий на дальнейшие разработки в области ИИ на шесть месяцев. Письмо подписали более тысячи ученых, биз- несменов и исследователей. Авторы письма задаются вопросами: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой? долж- ны ли мы автоматизировать все рабочие места? должны ли мы развивать нечеловече- ские умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? долж- ны ли мы рисковать потерей контроля над нашей цивилизацией? Изюминку этому письму придает то, что сам Илон Маск был основателем OpenAI, разрабо- тавшей ChatGPT, но затем вышел из числа акционеров. Является ли это "ответкой" за то, что он теперь не участвует в этом проекте? По рынку пошли слухи, что компании Маска заку- пают в огромных количествах графические карты, более 10 тыс. штук, на которых можно обучать большие языковые модели, а также он оказался генеральным директором новой ком- пании с говорящим названием X.AI. "Мы все умрем" Градус истерии взвинтил известный эксперт по ИИ Элиезер Юдковский: "Если мы и правда сделаем сильный ИИ, мы все умрем". Он пред- ложил наносить ракетные удары по лаборато- риям и дата-центрам, которые будут нарушать запрет. Неизвестно, действительно ли так силь- но испугался эксперт или элиты западного мира ищут повод для вторжения в другие стра- ны и уничтожения конкурентов, а смыслом подобного заявления было зондирование общественного мнения. Решения на Open Source Вернемся к технологическим новостям. Важ- ным трендом стало появление языковых моде- лей Open Source, основанных на модели LLaMA, которая утекла из Facebook (Meta Plat- forms Inc. признана экстремистской организа- цией на территории РФ). Участники сообще- ства Open Source создали целый "зоопарк" моделей (для названия моделей были исполь- зованы названия различных пород лам) раз- ного объема, доработанных под конкретные задачи. Важно отметить две особенности: их можно дообучать на пользовательских данных и вто- рое – их можно запускать не в облаке, а локально. Для маленьких моделей подойдут даже пользовательские устройства – смартфо- ны и контроллеры Raspberry PI. Представляете, у вас есть личный помощник, настроенный исключительно под вас, при этом ваши данные не передаются ни в какое облако. Помощник легко ответит на вопросы, связанные с вашими личными данными, например напишет ответ на сообщение или резюмирует результаты переписки. При добавлении функции text2spe- ech он сможет стать вашим секретарем-авто- ответчиком, блокирующим спам-звонки. Большие перспективы Интересно, когда производители телефонов интегрируют подобные модели в свои устрой- ства? Ведь это тот редкий случай, когда можно получить революционные функции для своих устройств, практически ничего не разработав, а лишь оптимизировав их под свое железо, как говорится, plug and play (подключи и играй). Для бизнеса данные модели тоже представ- ляют большую ценность. Их можно натрениро- вать под конкретные задачи, от создания про- граммного кода до оптимизации службы под- держки и электронного документооборота. Представьте, что локальная нейросеть будет на лету писать скрипты на python или другом языке, перепрограммировать промышленные контроллеры, получив техническое задание, написанное в свободной форме, а при обна- ружении ошибок тут же изменит код и снова запустит его на выполнение. Среди современных языковых моделей появи- лись так называемые мультимодальные моде- ли, которые на вход могут принимать не толь- ко текст, но и картинки, аудио- и видеопотоки, а также другие форматы данных. При таких характеристиках мы сможем дообучать локальную нейросеть на данных от датчиков, например, умного дома. Нейросеть будет чув- ствовать управляемый дом как свое тело и реа- гировать как на "боль" на различные измене- ния и аварии на управляемом объекте, про- граммируя в реальном времени устройства и контроллеры. Для таких сетей появился специ- альный термин Embodied. Это потенциально может стать революцией в робототехнике: робота не нужно программировать, достаточ- но будет давать ему голосовые команды. Ско- рее всего, подобные нейросети станут основой самостоятельных и полезных роботов, которые смогут заменить многие профессии, связанные с физическим трудом. Российские разработки: нам есть чем гордиться В конце статьи я бы хотел поздравить наших российских разработчиков из Сбера, которые выпустили новую версию нейросетевого гене- ратора изображений – "Кандинский 2.1", а также GigaСhat, аналог ChatGPT. Оба продук- та будут доступны под лицензией Open Source, они поддерживают возможность дообучения пользователем, и, самое главное, их можно запустить даже из дома, хотя при этом потре- буется достаточно мощный компьютер или ноутбук. К сожалению, GigaСhat пока находится в закрытой бете, поэтому протестировать его не получается, но появляющаяся информация говорит о сервисе как о серьезном конкуренте ChatGPT. Как мы понимаем, на русском языке он окажется вне конкуренции. А вот генератор "Кандинский 2.1" доступен всем. По метрике FID, обозначающей, насколь- ко точно нейросеть рендерит картинку по опи- санию, Кандинский 2.1 занимает третье место в мировом рейтинге, уступая только нейросе- тям от NVidia и Google, но из сетей Open Source он на первом месте. Интересно, что главный разработчик нейросе- ти "Кандинский 2.1" – одиннадцатиклассник из Челябинска Арсений Шахматов. Кандинский 2.1 побил рекорд ChatGPT, став самым быстро- растущим сервисом и достигнув 1 млн уни- кальных пользователей всего за четыре дня, затем 2 млн пользователей за шесть дней. Это быстрее результата сервиса ChatGPT от OpenAI, которому потребовалось пять дней, чтобы набрать 1 млн пользователей. n Алексей Коржебин Эксперт редакции журнала "Системы безопасности" КОЛОНКА ЭКСПЕРТА Нейросети: запретить нельзя развивать Перифраз известной игры слов, предполагающей взаимоисключающие возможно- сти, как нельзя точно описывает дискуссии, развернувшиеся на тему нейросетей. Опасны ли они? Приведут ли к безработице? Станут ли они решающим конкурент- ным преимуществом?