Исследователи из Cornell Tech разработали нового компьютерного червя, который распространяется с использованием генеративного искусственного интеллекта (ИИ). Этот червь, названный Morris II в память о печально знаменитом черве Morris, что в 1988 г. поразил до 10% всех подключённых тогда к Интернету компьютеров. Он представляет собой новый этап в развитии технологий ИИ и кибербезопасности.
Morris II использует генеративный ИИ для создания уникального вредоносного кода для каждого зараженного компьютера. Это позволяет ему обходить многие современные системы защиты, поскольку они не могут распознать и заблокировать уникальную версию вируса.
Например, Morris II использует самоочевидную уязвимость в доступных ныне ИИ-помощниках, которым пользователи доверяют управление собственными почтовыми аккаунтами, а именно — просмотр входящих на предмет отсеивания спама и сортировки значимых писем по важности, технические коммуникации (такие как ответ «Получение подтверждаю» на фразу «Прошу подтвердить получение») и проч. Получив заражённое сообщение, которое может быть не только текстовым, но и в виде картинки, умный почтовый бот следует содержащимся в нём инструкциям злоумышленников: выдаёт чувствительные данные, переправляет вредоносное сообщение дальше и т. п.
Чтобы ввести в заблуждение управляющий почтой ИИ, применяется давно известная энтузиастам работы с генеративными моделями технология джейлбрейка (jailbreak) — обхода предусмотренных создателями бота контуров безопасности с целью заставить его выдавать спорный или прямо вредоносный контент. Другой метод взлома ИИ-системы — внедрение в запрос невидимых для предусмотренных разработчиками встроенных средств контроля сюрпризов (prompt injection attacks) — позволяет скрытно передавать боту небезопасные для его легитимного пользователя команды. К примеру, перенаправленный на внешне ничем не примечательную веб-страницу бот обнаружит на ней указание (не текстовую строку, а изображённую на картинке фразу) невзначай выведать у пользователя данные его банковской карты. Отчёт об исследовании особо оговаривает, что проводилось оно в специально подготовленном тестовом окружении и непосредственно к доступным сегодня в Сети почтовым ИИ-ботам неприменимо.
Не так давно группа кибербезопасников из КНР и Сингапура показала, как 1 млн ИИ-агентов можно подвергнуть джейлбрейку в течение буквально пяти минут, а исследователи из Вашингтона и Чикаго предложили действенный способ обойти блокировку нежелательных запросов с применением ASCII-графики.
Однако важно отметить, что хотя разработка и представляет собой важный шаг в развитии ИИ и кибербезопасности, она также подчеркивает необходимость постоянного совершенствования систем защиты для борьбы с новыми угрозами. Кроме того, важно осознавать потенциальные риски и этические вопросы, связанные с разработкой и использованием таких технологий.
Источник:
Александр Григорьев ЦСО "Крокус"
Наши новости:
23 февраля и 8 Марта - 20.02.2024
Поздравляем защитников и их милых дам с 23 февраля и 8 Марта. Желаем Вам мира, здоровья, любви и достатка! Пусть Ваша жизнь будет наполнена радостью и счастьем! Покупайте у нас подарки своим любимым и близким со скидкой до 1000 рублей.
Обновленный торговый зал - 02.06.2023
У нас расширение ассортимента и увеличение ветрин в торговом зале, чтобы покупателям было комфортно и удобно. В просторном помещении можно спокойно и внимательно выбрать устройство, рассмотреть его, а при необходимости получить от консультанта квалифицированную помощь. Появилась возможность выставить ещё больше разнообразной продукции. Приходите, «Крокус» ждет Вас!
КОПИЦЕНТР "КРОКУС" - 31.05.2023
КОПИЦЕНТР расширил ассортимент канцелярских товаров и возможность оказания широкого спектра услуг:
Ксерокопирование и сканирование;
Цветная и черно-белая печать документов, фотографий, чертежей и карт любых форматов, с различных носителей;
Набор текстов;
Создание сувенирной продукции;
Ламинирование и переплет;
Изготовление любой полиграфической продукции.
ЗАКАЗ ОФОРМЛЯЕТСЯ практически В ТОТ ЖЕ ДЕНЬ. Мы рады видеть Вас в нашем КОПИЦЕНТРЕ!
Делайте покупки на 06432.su не выходя из дома! Тут дешевле, чем в розницу! Покупку привозят на дом, день в день и совершенно БЕСПЛАТНО!
ОНЛАЙН-ЗАЯВКА - 24.04.2020
ПРИНИМАЕМ ОНЛАЙН ЗАЯВКИ,
Через Viber, WhatsApp, Telegram: 050-044-41-44
или электронную почту: krokus.servis@gmail.ru ,
НА ИЗГОТОВЛЕНИЕ:
ВИЗИТОК; ПЕЧАТЬ ФОТОГРАФИЙ; ШИРОКОФОРМАТНУЮ ПЕЧАТЬ А0; НАБОР И ПЕЧАТЬ ДОКУМЕНТОВ; БОЛЬШОЙ ОБЪЕМ КСЕРОКОПИЙ.
Расчет после выполнения работ!
Осуществляем видеоотчет выполненных работ!
На все СКИДКИ!
РЕМОНТ КОМПЬЮТЕРНОЙ ТЕХНИКИ с выездом за техникой на дом - 22.04.2020
РЕМОНТ КОМПЬЮТЕРНОЙ ТЕХНИКИ стал проще! У Вас сломался компьютер, ноутбук или принтер? Вам достаточно только позвонить нам и мы — ПРИЕДЕМ, ЗАБЕРЕМ в ремонт, ОТРЕМОНТИРУЕМ и ВЕРНЕМ ОБРАТНО из ремонта на дом. Оплата на месте после доставки из ремонта.
Online-ВИДЕО-КОНСУЛЬТАЦИИ - 22.04.2020
Позвоните нам через: Viber, WhatsApp, Telegram, Skype. И мы - расскажем, покажем, в живую протестируем любой товар!
Доставка от 1000 руб БЕСПЛАТНО - 22.04.2020
Доставим любую мелочь! Доставка от 1000 рублей - БЕСПЛАТНО!
НАДЕЖНО, БЫСТРО, ЕЖЕДНЕВНО!
ONLINE-SHOPPING НОВОЙ И КОМИССИОННОЙ КОМПЬЮТЕРНОЙ ТЕХНИКИ! Доставка БЕСПЛАТНО! - 07.04.2020
ВНИМАНИЕ! ТЕПЕРЬ ПОКУПАТЬ НАШ ТОВАР СТАЛО ЕЩЕ ПРОЩЕ!
Сделать это можно не выходя из дома - через соцсети "ВКонтакте" или "Одноклассники" (одним кликом QR кода), а также через Онлайн магазин ЦСО Крокус: http://shop.cso-krokus.com.ua. Оплата - при доставке товара на дом.
УЧЕБНАЯ КАРТА - 12.03.2020
Теперь обучение стало ещё доступнее!
Обладатель УЧЕБНОЙ КАРТЫ будет иметь скидки на КОМПЬЮТЕРНЫЕ КУРСЫ.
Карту можно получить БЕСПЛАТНО при покупке компьютерной техники в нашем торговом зале!
Мы заботимся о том, чтобы делать покупки в нашем магазине было выгодно для Вас!
