Как хакеры используют искусственный интеллект, чтобы обмануть вас, щелкая схематичные ссылки

Пользователям Twitter, возможно, нужно быть более осторожным в отношении ссылок, на которые они нажимают.

Филип Талли и Джон Сеймур из ZeroFox 4 августа объявили на конференции хакеров Black Hat USA 2016, что они могут использовать машинное обучение (например, искусственный интеллект), чтобы пользователи Твиттера открывали ссылки на вредоносные веб-сайты с вероятностью успеха от 30 до 66 процентов.

Дуэт создал SNAP_R, «рекуррентную нейронную сеть, которая учится чирикать фишинговые посты, нацеленные на конкретных пользователей», чтобы доказать, что искусственный интеллект может использоваться для помощи в попытках «фишинг-фишинга». Spear phishing - это прямая попытка фишинга пользователя щелкнуть по плохой ссылке, в отличие от обычного фишинга, который распространяет широкую сеть на многих пользователей (например, в цепочечных или спам-сообщениях, запрашивающих информацию для входа в систему). SNAP_R, по сути, находит цель, пишет твит, который, по его мнению, заинтересует ее, использует сокращатель URL-адреса Google, чтобы скрыть вредоносную ссылку, а затем пишет в Твиттере о своей цели в надежде заставить их щелкнуть ссылку.

«На тестах, состоящих из 90 пользователей, мы обнаружили, что наша автоматизированная система фишинг-фишинга имела успех от 30% до 66%». Талли и Сеймур пишут в статье о SNAP_R. «Это более успешно, чем 5–14%, о которых ранее сообщалось в крупномасштабных фишинговых кампаниях, и сравнимо с 45%, о которых сообщалось в крупномасштабных усилиях по ручной фишинг-атаке».

Искусственный интеллект часто используется для защиты данных, а не для их компрометации. Сеймур и Талли хотели перевернуть это с ног на голову, чтобы показать, что, хотя хакеры не боятся А.И. Делая вещи не взломанными, широкая публика должна быть обеспокоена тем, что хакеры могут использовать подобные инструменты против своих целей.

OpenAI, проект Элона Маска, в котором изучается влияние искусственного интеллекта на нас в будущем, заявил в июле, что технология может представлять риск. «На раннем этапе ИИ будет использоваться для проникновения в компьютерные системы», - пишет OpenAI. «Мы бы хотели, чтобы методы ИИ защищались от искушенных хакеров, интенсивно использующих методы ИИ».

Раскрытие того, как работает SNAP_R, должно «способствовать большей осведомленности и пониманию» фишинговых атак. Обсуждение внутренней работы инструмента может помочь кому-то найти способ защитить пользователей Twitter от подобных угроз, при условии, что пользователи Twitter могут обуздать свое любопытство и быть более осторожными.

«Наш подход основан на том факте, что социальные сети быстро становятся легкой мишенью для фишинговых и социальных атак», - пишут Сеймур и Талли. «Мы используем Twitter в качестве нашей платформы из-за его низкой планки для допустимых публикаций, его терпимости сообщества к удобным сервисам, таким как укороченные ссылки, его эффективному API и его повсеместной культуре переэкспонирования личной информации».

Эта презентация была лишь одной из многих, представленных на Black Hat USA 2016, чтобы помочь людям понять угрозы безопасности. Возможно, это не окажет такого влияния, как новая программа вознаграждения за ошибки Apple, но все же хорошо отслеживать, как развиваются инструменты взлома.

Вы можете прочитать полную статью Сеймура и Талли на SPAN_R ниже: