Мошенники с помощью нейросетей создают цифровые копии умерших и используют их в своих целях. Об этом сообщает Центр.цифровой экспертизы Роскачества.
«Технология цифрового воскрешения основана на нейросетевых алгоритмах, способных создавать интерактивные цифровые копии умерших людей. Изначально подобные разработки создавались в терапевтических целях, чтобы помочь людям в преодолении тяжелой утраты через символическое общение с цифровой проекцией умершего. Однако, как это часто происходит с перспективными технологиями, механизм быстро привлек внимание мошенников», - заявили в Роскачество.
Мошенники используют технологию для воздействия на уязвимых людей, переживающих утрату.
Заинтересованные компании или киберпреступники могут использовать эти симуляторы для скрытой рекламы или для манипуляций пользователями, внушая, что бот - на самом деле умерший родственник. Цифровые копии могут убеждать родственников в необходимости «финансовой помощи», рекомендовать покупку определенных товаров или услуг.
Аккаунты умерших людей также могут стать инструментом для фишинговой рассылки от имени реальных людей, поскольку сообщения от аккаунта с «живым» профилем в соцсетях и истории переписок в мессенджерах не вызовут подозрений у потенциальных жертв. Кроме того, создание ботнетов из цифровых копий умерших людей обеспечит злоумышленникам возможность проводить масштабные DDoS-атаки или организовывать массовое распространение нежелательного контента.
«Когда мошенники используют дипфейк живого человека, у жертвы всегда есть возможность проверить подлинность сообщения, например, связавшись альтернативным способом. Однако с цифровой копией умершего такая проверка невозможна в принципе. Это создает идеальные условия для преступников, ведь цифровой образ можно бесконтрольно использовать в мошеннических схемах, играя на эмоциях и доверии людей», - заявили в Роскачестве.