Как DetectifAI борется с мошенничеством на основе ИИ

Дедушка Тарини Падманабхуни получил звонок от человека, голос которого был искусственно созданной имитацией его брата. Мошенник заявил, что брат похищен, и потребовал выкуп. Падманабхуни заплатил, но позже узнал, что брат находится совсем в другом месте и ничего не знал о происходящем.

«То, что осталось со мной, — это не деньги, — говорит Падманабхуни об инциденте. — Это было то, что он не мог сказать».

Это было около двух лет назад. Сегодня DetectifAI, компания из Сан-Франциско, которую она основала, стремится к тому, чтобы другие не могли быть обмануты таким же образом.

Насколько велика проблема мошенничества с ИИ?

Это большая и растущая проблема, и рынок должен соответствовать. По данным ФБР, в прошлом году американцы потеряли около 900 миллионов долларов из-за мошенничества на основе искусственного интеллекта, что на 24% больше, чем в 2024 году. Люди в возрасте 60 лет и старше потеряли в два раза больше, чем в возрасте от 50 до 59 лет.

Нет недостатка в конкуренции в области глубокого обнаружения голоса от таких компаний, как Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (которым также владеет Microsoft). Но сегодняшние продукты обнаружения, утверждает Падманабхуни, работают в облаке на удаленных серверах, поэтому производители телефонов не могут встроить их непосредственно в свои устройства, оставляя человека практически без защиты.

Чем подход DetectifAI отличается от других?

Вместо того, чтобы сокращать большие облачные модели, чтобы поместиться на телефоне, как это делают некоторые компании, DetectifAI говорит, что с самого начала разрабатывает компактные модели ИИ, которые достаточно малы, чтобы работать внутри операционной системы смартфона. Цель состоит в том, чтобы вынести мгновенный вердикт о том, генерируется ли голос ИИ во время звонков, в голосовых сообщениях и в другом аудио, без того, чтобы аудио когда-либо покидало устройство.

DetectifAI сначала продает производителям телефонов, лицензируя свои программные инструменты, чтобы обнаружение могло поставляться как встроенная функция операционной системы телефона. Ее аналогия заключается в роли AT&T в первоначальном запуске iPhone, когда эксклюзивная сделка оператора отличает его от своих конкурентов: первый производитель телефонов, который поставит DetectifAI, получит преимущество над конкурентами, утверждает она, а обнаружение Deepfake станет стандартной спецификацией, такой как разрешение камеры.

Ядром продукта является комплект разработки программного обеспечения DetectifAI (SDK), пакет кода, который другие компании могут встраивать в свои продукты и лицензировать по существующим каналам. Падманабхуни говорит, что вторичный поток доходов будет поступать от лицензирования технологии для предприятий и фирм по предотвращению мошенничества.

Есть ли у DetectifAI уже клиенты и доход?

По словам Падманабхуни, стартап уже имеет ранний доход и обрабатывает более 100 000 звонков в месяц для финансовых учреждений в Индии. Эти звонки размещаются голосовыми агентами ИИ, которые обрабатывают сбор долгов и отслеживают кредитные документы, с обнаружением подделок и проверкой динамика (подтверждая, что абоненты являются теми, кем они себя называют) на каждом звонке. Она отказалась назвать клиентов, сославшись на соглашения о конфиденциальности.

Падманабхуни говорит, что она начала работать в машинном обучении в возрасте 12 лет, а затем изучала киберфизические системы (технологии, которые связывают программное обеспечение с физическим оборудованием) в Технологическом институте Манипала в Индии, где, по ее словам, она стала самой молодой командой, возглавляющей то, что она описывает как первое в Индии подразделение беспилотных гоночных автомобилей в Formula Student, международном студенческом инженерном конкурсе.

Отвечая на вопрос о самом полезном моменте для стартапа, она указывает на небольшой бета-тест WhatsApp, в котором пользователи пересылают подозрительные голосовые заметки и получают оценку того, реальны ли они. Один тестировщик, чьи собственные родственники были обмануты, позвонил, чтобы сказать, что они будут платить за это без колебаний.

До сих пор DetectifAI привлек небольшое количество семян от инвесторов Джоша Констина (ранее редактора TechCrunch) и Манохара Камата, директора консалтинговой фирмы KM Growth. Набор является одним из стартапов, проверенных редакционной командой TechCrunch для участия в престижном конкурсе Startup Battlefield, который проходит с 13 по 15 октября в центре Сан-Франциско.

Вопросы и ответы

Сколько американцы потеряли из-за мошенничества с ИИ в прошлом году?

По данным ФБР, в прошлом году американцы потеряли около 900 миллионов долларов из-за мошенничества на основе искусственного интеллекта. Это на 24% больше, чем в 2024 году. Люди в возрасте 60 лет и старше потеряли в два раза больше, чем в возрасте от 50 до 59 лет.

Чем технология DetectifAI отличается от решений других компаний?

DetectifAI с самого начала разрабатывает компактные модели ИИ, которые работают внутри операционной системы смартфона, а не в облаке. Это позволяет мгновенно определять, сгенерирован ли голос ИИ, и аудио не покидает устройство.

Есть ли у DetectifAI уже клиенты и доход?

Да, по словам Падманабхуни, стартап уже имеет ранний доход и обрабатывает более 100 000 звонков в месяц для финансовых учреждений в Индии. Эти звонки размещаются голосовыми агентами ИИ, которые занимаются сбором долгов и отслеживанием кредитных документов.