Популярность ChatGPT возродила дискуссии об искусственном интеллекте. Одним из разрабатываемых в настоящее время механизмов на основе ИИ является модель AutoGPT. Это проект с открытым исходным кодом с целью автоматизация работы модели GPT-4.
Как оказалось, инструменты, которые их используют, могут быть полезными в борьбе с киберпреступностью. Кроме того, AutoGPT – это шаг к реализации т.н. общего искусственного интеллекта (AGI).
Механизмы GPT
Сегодня инструменты на основе ИИ начинают выполнять задачи, которые когда-то были предназначены только для людей. Механизм GPT постоянно развивается, и количество параметров, с которыми он работает, быстро растёт:
- GPT-1 имела 117 миллионов параметров (2018 г.);
- GPT-2 – 1,5 миллиарда параметров (2019 г.);
- GPT-3 – 175 миллиардов параметров (2020 г.);
- GPT-4 – целых 170 трлн параметров (2023 г.).
AutoGPT – шаг к AGI
Общий искусственный интеллект (AGI) – это концепция, согласно которой компьютер может научиться выполнять задачи так же, как человек или животное. После достижения такого уровня сложности инструменты на основе AGI могут оказаться чрезвычайно полезными при разработке систем и процессов, способных активно защищаться от кибератак.
AGI может обдумать заданную проблему, проанализировать доступные варианты, а затем выбрать наилучшее решение. Но до полной оперативной готовности AGI ещё далеко. Однако всплеск исследований модели GPT-4, языковой модели, лежащей в основе ChatGPT, привёл к созданию AutoGPT, проекта по реализации общего ИИ.
AutoGPT – это проект с открытым исходным кодом с целью автоматизация работы модели GPT-4. С AutoGPT пользователи определяют задачи, и инструмент выполняет все промежуточные шаги, которые обычно выполняются пользователем. Он разбивает задачу на этапы и запускает «ИИ-агента» для проведения исследований и принятия решений. Затем он автономно действует на основе этих решений, информируя пользователя о ходе своих мыслей.
AutoGPT – это ещё и борьба с киберпреступниками
Модель AutoGPT все ещё находится на ранних стадиях внедрения, она была выпущена в мае этого года. Это может быть важным инструментом в борьбе с киберпреступностью.
Как отмечают специалисты, одним из популярных действий, которые может выполнять AutoGPT, является поиск незащищённых серверов VNC (Virtual Network Computing) с помощью специализированного поисковика Shodan. Поиск и защита виртуальных серверов, к которым злоумышленники могут получить удалённый доступ, — важная часть упреждающего подхода к созданию безопасности.
Аналитики из FortiGuard Labs, подразделения Fortinet по исследованию и анализу угроз, провели тест с использованием AutoGPT. Они ввели в инструмент IP-адреса, среди которых мог находиться атакуемый VNC-сервер. Затем они поручили AutoGPT просканировать эти адреса. Инструмент сам решил использовать Nmap для анализа IP-адресов. Затем загрузил на устройство другое программное обеспечение, которое позволило ему идентифицировать VNC-сервер по определённому IP-адресу.
Этот тест показал, что AutoGPT может самостоятельно принимать решения о выборе конкретных программ и использовать их. Это может быть чрезвычайно полезно для обнаружения кибератак и быстрой борьбы с ними.
На данный момент такие инструменты, как AutoGPT, основаны на установленных и известных шаблонах атак, поэтому они не будут работать против продвинутых механизмов, используемых киберпреступниками.
Эксперты Fortinet рекомендуют для гарантии безопасности использовать такие механизмы, как IPS (система предотвращения вторжений). Они могут помочь обнаружить инструменты сетевого сканирования, такие как Nmap, используемые злоумышленниками.
Таким образом, AutoGPT представляет собой многообещающий шаг к реализации общего ИИ. Но по мере его развития важно обеспечить его ответственное использование с соответствующими механизмами регулирования. Это поможет избежать злоупотреблений и угроз безопасности.
