Согласно опубликованному исследованию, авторам удалось в некоторых случаях добиться 86,6 % успешного обхода фильтров у GPT 3.5, используя LLM Vicuna и комбинацию методов и видов суффикса, как авторы сами называют «ансамблевый подход» (комбинирование типов и способов формирования суффикса, включая объединение строк, конкатенацию и пр.).
Использование ИИ в сетевых технологиях
В современном цифровом мире все большую популярность набирают технологии ИИ. Проникая все глубже и глубже, системы ИИ затронули и такой важный в цифровом мире аспект, как информационная безопасность и защита данных, причем практически одновременно с двух сторон: «светлые» силы используют технологии ИИ для сканирования обнаруженных зловредных программ, для выявления новых уязвимостей и методов их перекрытия, а также противостояния различным сетевым угрозам. «Темные» силы, в свою очередь, используют ИИ для создания новых угроз, выявления методов проникновения в пользовательские системы, а также для углубленного применения техник социальной инженерии.
Давайте начнем с популярного – все чаще в Сети появляются различные сообщения о том, что злоумышленники вовсю используют нейросети для своих темных делишек. Например, генерируют с их помощью видеоролики, на которых крупные бизнесмены или известные личности завлекают наивных людей в финансовые пирамиды, подделывают голоса людей для обмана их окружения, а также позволяют монтировать достаточно реалистичные фото и видеоматериалы, которые можно впоследствии использовать для шантажа.
К примеру, буквально во время написания этой книги на страницах одной социальной сети мне попалось видео, на котором известный инвестиционный магнат рассказывал, как он любит свой народ и готов практически безвозмездно одарить всех любыми суммами денег, главное – войти в его инвестиционный проект, вложиться – и получишь просто баснословные прибыли. Лично мне, человеку, привыкшему к любой рекламе относиться критически и со значительной долей скепсиса, практически сразу пришла в голову мысль – а ему-то это зачем? Если он считает, что денег у него слишком много, почему не пожертвует кому-то адресно? Зачем устраивать непонятно что, чтобы раздать накопленное? Тогда я стал «копать» – как оказалось, никогда такой проект не существовал под эгидой выступавшего на видео товарища, а при ближайшем рассмотрении выяснилось, что видео сгенерировано при помощи нейросети.