Журнал "Системы Безопасности" № 5‘2024

Ц И Ф Р О В А Я Т Р А Н С Ф О Р М А Ц И Я , И И , И Н Т Е Р Н Е Т В Е Щ Е Й 126 С эм Альтман, глава OpenAI, создавшей ChatGPT, выступил с манифестом о разви- тии искусственного интеллекта (ИИ), в котором подчеркнул необходимость разработки без- опасного и доступного инструмента, способного приносить пользу всему человечеству. Альтман выделил несколько ключевых аспек- тов, включая важность создания систем, кото- рые будут доступны не только крупным кор- порациям, но и более широким слоям обще- ства. Он подчеркнул, что главная цель – это не просто создание мощных технологий, но также обеспечение их справедливого распре- деления, демократизации доступа и миними- зация рисков, связанных с возможными угро- зами ИИ. Классификация искусственного интеллекта Принято выделять три ключевые стадии разви- тия искусственного интеллекта: слабый ИИ, общий ИИ и сверхчеловеческий ИИ. 1. Слабый ИИ (Narrow AI) – это системы, кото- рые выполняют специализированные задачи. Они не обладают способностью к самостоятель- ному мышлению или решению общих проблем, но могут быть чрезвычайно полезны в отдель- ных сферах: обработке данных, диагностике или автоматизации простых процессов. Приме- ром слабого ИИ являются чат-боты и голосовые помощники, которые реагируют на пользова- тельские команды, но не обладают пониманием вне заданного контекста. 2. Общий ИИ (AGI – Artificial General Intelligen- ce) представляет собой систему, которая спо- собна решать широкий круг задач на уровне человека, используя аналогичные ему способ- ности к обучению и пониманию. Такой ИИ мог бы рассуждать, обучаться из опыта, адаптиро- ваться и применять свои знания в различных контекстах. Например, общий ИИ сможет рабо- тать в медицине, ставя диагнозы и разрабаты- вая новые методы лечения, а также в образо- вании, создавая динамичные учебные про- граммы, адаптированные под каждого учени- ка. Пока такие системы находятся в процессе разработки, но стремление к их созданию является одним из основных направлений исследований в области ИИ. 3. Сверхчеловеческий ИИ (Superintelligence) – это уровень, при котором ИИ превосходит спо- собности человека во всех интеллектуальных областях. Сверхчеловеческий ИИ сможет открывать новые горизонты для человечества, помогая решать сложные глобальные пробле- мы и значительно улучшая качество жизни. Например, сверхчеловеческий ИИ сможет предлагать инновационные решения для опти- мизации мировой экономики, ускорять эволю- цию человека и способствовать взаимному син- тезу человека и ИИ, открывая новые возможно- сти для когнитивного и физического совершен- ствования. Все, что сейчас пока кажется невоз- можным. Сверхчеловеческий ИИ несет потенциальные риски, связанные с его использованием, кото- рые требуют тщательного контроля и управле- ния. В своей статье Сэм Альтман предсказывает, что до появления сверхчеловеческого ИИ оста- лось несколько тысяч дней. Пять стадий развития ИИ: от чат-ботов до организаций Сэм Альтман в недавнем интервью представил свою квалификацию – пять стадий развития искусственного интеллекта, начиная с простей- ших чат-ботов и заканчивая интеграцией ИИ в структуры, которые напоминают полноценные организации. Каждая из этих стадий представ- ляет собой шаг вперед в эволюции возможно- стей ИИ и показывает, как ИИ может переходить от простой автоматизации к более сложным и автономным действиям. 1. Чат-боты – начальная стадия, где ИИ реаги- рует на запросы пользователя в виде текста. Примерами являются модели ChatGPT, которые поддерживают беседы и отвечают на вопросы. Это базовый уровень, на котором ИИ действует по заранее заданным правилам и шаблонам. 2. Разумные системы (Reasoners) – следующий уровень, на котором ИИ способен мыслить логически и решать более сложные задачи. Модель OpenAI o1 представляет этот уровень, развивая навыки решения проблем и предо- ставляя пользователям возможность работать с более сложными сценариями. Здесь ИИ стано- вится более адаптивным и начинает использо- вать более сложные методы для решения поставленных задач. 3. Агентские системы (Agents) – третий уровень, где ИИ может автономно выполнять задачи, при- нимать решения и управлять процессами на основе инструкций пользователей. Эти агентские системы уже демонстрируют потенциал в таких областях, как маркетинг, кредитный анализ и модернизация программного обеспечения. На данном этапе ИИ становится активным участни- ком процесса, взаимодействуя с другими систе- мами и принимая решения в реальном времени. 4. Инноваторы (Innovators). На этой стадии ИИ выходит за рамки выполнения задач и начинает участвовать в создании новых знаний. Это может быть помощью в открытии научных кон- цепций и генерации креативных идей. ИИ ста- новится партнером в инновациях, способным предложить оригинальные решения и стимули- ровать новые открытия. 5. Организации (Organizations). Заключи- тельный уровень, на котором ИИ функцио- нирует как целая организация. Он интегри- рует и автоматизирует различные процессы, выполняя функции полноценной компании или группы компаний. Такие системы могут координировать и оптимизировать деятель- ность, работая в тандеме с людьми или пол- ностью автономно. Этот этап демонстрирует, как ИИ может стать полноценным управляю- щим элементом в различных областях, значительно повышая эффективность и сни- жая затраты. Модель OpenAI o1: разумная система второго уровня Модель o1, представленная пока в версии o1-preview, как отметил Сэм Альтман, является переходом ко второму уровню развития ИИ – "разумные системы". Она также значительно отличается от предыдущих версий, таких как GPT-4, как GPT-4 отличается от GPT-2. Версия o1-preview напоминает GPT-2, которая была основой для ChatGPT 3 – первой коммерческой модели. октябрь – ноябрь 2024 www.secuteck.ru Алексей Коржебин Эксперт редакции журнала "Системы безопасности" С эм Альтман – одна из ведущих фигур в мире технологий и предпри- нимательства, председатель и генеральный директор OpenAI, бывший президент стартап-инкубатора Y Combinator. Активно работает над раз- витием и безопасностью искусственного интеллекта, видя в нем важ- ный инструмент для трансформации общества и экономики. Именно его видение "Эпохи интеллекта" лежит в основе самых амбициозных про- ектов OpenAI. Эволюция искусственного интеллекта Понять направление развития той или иной технологии помогает изучение истории ее эволюции. В этой статье я предлагаю рассмотреть, как понимают искусственный интеллект его создатели, ведь именно они формируют будущее технологии, а сле- довательно, будущее всего общества. Давайте разберемся, к чему они стремятся, постоянно совершенствуя инструменты, чего опасаются и на какой стадии эволюции ИИ мы находимся с вами сейчас.