02.04.2024
Безопасный искусственный интеллект
В последние годы искусственный интеллект (далее-ИИ) стал неотъемлемой частью современного мира, проникнув в большинство сфер жизни людей от профессиональной деятельности до развлечений. Нейросети — это мощнейший за всю историю человечества прорыв технологий. К примеру, нейросеть может работать техником на борту самолета и предупреждать об износе двигателя, контролировать экосистемы, выявлять ранние признаки заболеваний и определять оптимальные методы их лечения. Одним из самых заметных проявлений ИИ в повседневной жизни является использование его в домашних устройствах. Голосовые помощники, такие как Siri, GoogleAssistant, Яндекс Алиса, Салют (Сбербанк) позволяют заказывать товары, управлять домашней автоматикой, находить информацию и многое другое.
Указом Президента РФ от 9 мая 2017 г. № 203 утверждена Стратегия развития информационного общества в Российской Федерации на 2017-2030 годы.
Основными принципами настоящей Стратегии являются:
обеспечение прав граждан на доступ к информации;
приоритет традиционных российских духовно-нравственных ценностей и соблюдение основанных на этих ценностях норм поведения при использовании информационных и коммуникационных технологий;
обеспечение законности и разумной достаточности при сборе, накоплении и распространении информации о гражданах и организациях;
обеспечение свободы выбора средств получения знаний при работе с информацией;
обеспечение государственной защиты интересов российских граждан в информационной сфере;
сохранение традиционных и привычных для граждан (отличных от цифровых) форм получения товаров и услуг.
Следует начать с того, что нейросеть не может думать так же творчески, как человек. Она дает правильные и даже уникальные ответы, когда располагает огромной базой данных. Это математика, а новаторский и творческий подход, «элемент Творца» — стопроцентная прерогатива человека. Следовательно, не стоит бояться нейросетей, это просто неимоверно огромная энциклопедия знаний. Но нужно всегда проверять информацию, которую вы от нее получаете.
Откуда же нейросети берут данные? Ответ прост - мы сами их даем, пока общаемся на форумах, что-то ищем в поисковиках или используем гаджеты с трекерами. Но это не значит, что надо удалять все аккаунты в социальных сетях и отправлять письма «по старинке». Просто следует быть бдительным и не делиться в интернете личными данными, которыми могут воспользоваться злоумышленники.
С помощью ИИ злоумышленники могут:
делать фальшивые документы - банковские выписки, нарисовать фальшивый паспорт или водительское удостоверение.
создавать заведомо ложные новости и рассылки, при переходе по которым можно оставить данные своей банковской карты или другую персональную информацию.
создавать фальшивые отзывы и рейтинги.
чат-боты могут придумать сценарий для телефонного звонка и облегчить работу преступникам.
ИИ может взять на себя роль мнимых сотрудников организаций которыми представляются мошенники для обмана свои жертв.
ИИ может создавать «клон» голоса человека (deepfake). С учетом развития биометрии и возможности оформить кредит по звонку (современные технологии идентифицируют человека по тембру голоса).
Нейросети мастерски умеют создавать картины и иллюстрации. А это значит, что подобные изображения легко используются для фейковых сборов. Так что перед тем, как отправить кому-то финансовую помощь, стоит проверить в других соцсетях и интернете «реальность» адресата.
Также злоумышленники могут использовать и другую схему мошенничества. Например, предложить «облегчить» доступ к популярной иностранной нейросети с использованием специального сервиса или приложения. В свою очередь, ссылка на сервис может вести на фишинговый ресурс, который предложит заполнить форму с данными для оплаты, либо на вредоносную программу, например, удаленного управления устройством, при установке которой злоумышленники получают полный контроль над гаджетом пользователя. В конечном итоге все это может привести к потере денежных средств.
Если не контролировать развитие и использование технологий, то кроме полезных изобретений, помимо всех благ, возникают новые лазейки для мошенников в виде новых методов киберугроз и вымогательства.
Уже имеются алгоритмы, которые могут почти безукоризненно имитировать человеческие черты и поведение. И тут наступает момент, когда обмануть человека становится проще: люди еще не привыкли, что звонить со знакомого номера может сгенерированный искусственным интеллектом персонаж, ведь он выглядит и говорит так де как их знакомый, родственник. Тем не менее - это уже реальность!
Поэтому не верьте на слово никому из тех, кто вам звонит или пишет. Проверяйте услышанную или прочитанную информацию. Подтверждайте её безопасными и известными только вам путями.
Чтобы избежать негативных последствий, каждому пользователю необходимо следовать следующим рекомендациям.
Установите антивирус. Многие проникновения в чужие системы осуществляются с помощью троянских программ. Например, с вашего компьютера злоумышленники могут осуществить атаку на банк. От этого вас защитит установка антивирусного решения (Касперский, Dr.Web, для мобильных – МТС «Защитник» и т.д.).
Обновляйте программное обеспечение, чтобы иметь доступ к последним исправлениям уязвимостей. Но при актуальном ПО вы можете не беспокоиться, что компьютер будет взломан.
Используйте надежные пароли: создавайте уникальные и сложные пароли для каждого онлайн-аккаунта. Придумайте комбинацию букв, цифр и специальных символов, а также избегайте очевидных паролей, таких как «123456». Рекомендуется использовать менеджеры паролей для хранения и генерации безопасных паролей. Если вы храните пароли в записной книжке и скрываете даже от родственников — это самый безопасный способ. Хотя куда чаще пользователи хранят пароли в зашифрованном виде в браузере, чтобы вводить их автоматически. Это приемлемо, но потенциально опасно, потому что злоумышленник может достать пароль из специальной зоны браузера.
Проявляйте осторожность в соцсетях. Посмотрите на свои страницы в социальных сетях со стороны: не стоит показывать то, что потенциально может создать неудобную ситуацию.
Не доверяйте всем фотографиям и видео в интернете, особенно если они кажутся не слишком реалистичными или сомнительными.
Никогда не переходите по заманчивым ссылкам в электронных письмах от неизвестных отправителей. Проверяйте информацию через разные источники. И сами источники тоже. Проверяйте подозрительные сайты. Адрес сайта должен содержать протокол HTPPS. Значит, такой сайт шифрует информацию и подтвержден цифровым сертификатом.
Включите двухфакторную аутентификацию (2FA) для своих онлайн-сервисов, где это возможно. Это добавляет дополнительный уровень защиты, требуя подтверждение личности не только паролем, но и дополнительным кодом, который вы получаете на свой мобильный телефон.
Помните: Развитие искусственного интеллекта имеет множество преимуществ, но его применение может иметь серьезные последствия для безопасности потребителей. Среди них — распространение ложной информации, нарушение конфиденциальности, мошеннические действия (в частности взломы аккаунтов в социальных сетях и мессенджерах, использование видео и голосовых сообщений для создания видео и аудиозаписей якобы от лица владельца аккаунта).
