DetectifAI создаёт детектор дипфейков, работающий прямо на смартфоне

Стартап DetectifAI из Сан-Франциско разрабатывает компактные ИИ-модели, способные обнаруживать дипфейк-голос прямо на смартфоне, не отправляя аудио в облако. Основательница компании Тарини Падманабхуни решила заняться этой проблемой после того, как её дедушка стал жертвой мошенников: он получил звонок, в котором голос, сгенерированный ИИ, имитировал его брата, якобы похищенного, и заплатил выкуп.

«Что осталось со мной — не деньги, — говорит Падманабхуни об инциденте. — А то, что у него не было способа отличить».

По данным ФБР, за прошлый год американцы потеряли около $900 млн из-за мошенничества с использованием ИИ, что на 24% больше, чем в 2024 году. Люди старше 60 лет потеряли вдвое больше, чем те, кому от 50 до 59 лет.

На рынке обнаружения дипфейк-голоса уже работают такие компании, как Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (принадлежит Microsoft). Однако, по словам Падманабхуни, существующие продукты работают в облаке на удалённых серверах, поэтому производители телефонов не могут встроить их напрямую в устройства, оставляя потенциальную жертву без защиты.

Вместо того чтобы уменьшать большие облачные модели для работы на телефоне, DetectifAI, по словам компании, с самого начала проектирует компактные ИИ-модели, достаточно малые для запуска внутри операционной системы смартфона. Цель — мгновенно определять, сгенерирован ли голос ИИ, во время звонков, голосовых сообщений и другого аудио, при этом аудио не покидает устройство.

DetectifAI продаёт продукт в первую очередь производителям телефонов, лицензируя свои программные инструменты, чтобы обнаружение могло поставляться как встроенная функция операционной системы. Падманабхуни сравнивает это с ролью AT&T при запуске оригинального iPhone: первый производитель, который внедрит DetectifAI, получит преимущество перед конкурентами, а обнаружение дипфейков станет стандартной характеристикой, как разрешение камеры.

Ядро продукта — SDK DetectifAI, пакет кода, который другие компании могут встраивать в свои продукты и лицензировать через существующие каналы. По словам Падманабхуни, дополнительный источник дохода — лицензирование технологии бизнесу и компаниям по борьбе с мошенничеством.

Стартап уже имеет ранний доход и обрабатывает более 100 000 звонков в месяц для финансовых учреждений Индии. Эти звонки совершают ИИ-голосовые агенты, которые занимаются взысканием долгов и напоминают о кредитных документах, при этом на каждом звонке работает обнаружение дипфейков и верификация говорящего (подтверждение, что звонящий — тот, за кого себя выдаёт). Названия клиентов Падманабхуни не раскрыла, ссылаясь на соглашения о конфиденциальности.

Падманабхуни говорит, что начала работать в области машинного обучения в 12 лет, а позже изучала киберфизические системы (технологии, связывающие программное обеспечение с физическими механизмами) в Manipal Institute of Technology в Индии, где, по её словам, стала самым молодым руководителем команды первой в Индии гоночной беспилотной машины в рамках Formula Student — международного студенческого инженерного соревнования.

На вопрос о самом значимом моменте для стартапа она вспоминает небольшой бета-тест в WhatsApp, где пользователи пересылают подозрительные голосовые заметки и получают оценку их подлинности. Один из тестировщиков, чьи родственники пострадали от мошенников, позвонил и сказал, что без колебаний заплатил бы за это. «У моего дедушки этого не было», — говорит она.

DetectifAI пока привлекла небольшую посевную сумму от инвесторов Джоша Констина (ранее редактора TechCrunch) и Манохара Камата, партнёра консалтинговой фирмы KM Growth. Компания вошла в число стартапов, отобранных редакцией TechCrunch для участия в конкурсе Startup Battlefield, который пройдёт с 13 по 15 октября в центре Сан-Франциско в рамках TechCrunch Disrupt.