Forschung
Die Wissenschaft des Vertrauens in KI vorantreiben
Unsere Forschung konzentriert sich auf die Erkennung von Deepfakes, die forensische Analyse synthetischer Medien und die Robustheit gegenüber adversarialen Angriffen. Wir veröffentlichen unsere Erkenntnisse, um das Fachgebiet voranzubringen und unseren Kunden einen Vorsprung gegenüber neuen Bedrohungen zu verschaffen.
13
Forschungsarbeiten
5
Forschungsbereiche
7
Offene Datensätze
3
Demnächst verfügbar
Veröffentlichungen und Berichte
Forschungsarbeiten des Scam AI-Teams zu Deepfake-Erkennung, Dokumentenfälschung, Altersschätzung und vielem mehr.
Document Forgery
- DOCFORGE-BENCH: A Comprehensive Benchmark for Document Forgery Detection and Analysis
Zengqi Zhao, Weidi Xia, Peter Wei, Yan Zhang, Yiyi Zhang, Jane Mo, Tiannan Zhang, Yuanqin Dai, Zexi Chen, Simiao Ren
Auf arXiv ansehen - When the Forger Is the Judge: GPT-Image-2 Cannot Recognize Its Own Faked Documents
Jiaqi Wu, Yuchen Zhou, Dennis Tsang Ng, Xingyu Shen, Kidus Zewde, Ankit Raj, Tommy Duong, Simiao Ren
Auf arXiv ansehen - AIForge-Doc: A Benchmark for Detecting AI-Forged Tampering in Financial and Form Documents
Jiaqi Wu, Yuchen Zhou, Muduo Xu, Zisheng Liang, Simiao Ren, Jiayu Xue, Meige Yang, Siying Chen, Jingheng Huan
Auf arXiv ansehen - Can Multi-modal (reasoning) LLMs detect document manipulation?
Zisheng Liang, Kidus Zewde, Rudra Pratap Singh, Disha Patil, Zexi Chen, Jiayu Xue, Yao Yao, Yifei Chen, Qinzhe Liu, Simiao Ren
Auf Scholar ansehen
Age Estimation
- Can a Teenager Fool an AI? Evaluating Low-Cost Cosmetic Attacks on Age Estimation Systems
Xingyu Shen, Tommy Duong, Xiaodong An, Zengqi Zhao, Zebang Hu, Haoyu Hu, Ziyou Wang, Finn Guo, Simiao Ren
Auf arXiv ansehen - Out of the box age estimation through facial imagery: A Comprehensive Benchmark of Vision-Language Models vs. out-of-the-box Traditional Architectures
Simiao Ren, Xingyu Shen, Ankit Raj, Albert Dai, Caroline Zhang, Yuan Xu, Zexi Chen, Siqi Wu, Chen Gong, Yuxin Zhang
Auf arXiv ansehen
AI-Generated Detection
- GPT-Image-2 in the Wild: A Twitter Dataset of Self-Reported AI-Generated Images from the First Week of Deployment
Kidus Zewde, Simiao Ren, Xingyu Shen, Jenny Wu, Yuchen Zhou, Tommy Duong, Zikang Zhang, Ethan Traister
Auf arXiv ansehen - How well are open sourced AI-generated image detection models out-of-the-box: A comprehensive benchmark study
Simiao Ren, Yuchen Zhou, Xingyu Shen, Kidus Zewde, Tommy Duong, George Huang, Neo Tiangratanakul, Dennis Ng, En Wei, Jiayu Xue
Auf arXiv ansehen
Deepfake Detection
- Do deepfake detectors work in reality?
Simiao Ren, Disha Patil, Kidus Zewde, Dennis Ng, Hengwei Xu, Shengkai Jiang, Ramini Desai, Ning-Yau Cheng, Yining Zhou, Ragavi Muthukrishnan
Auf Scholar ansehen - Can Multi-modal (reasoning) LLMs work as deepfake detectors?
Simiao Ren, Yao Yao, Kidus Zewde, Zisheng Liang, Ning-Yau Cheng, Xiaoou Zhan, Qinzhe Liu, Yifei Chen, Hengwei Xu
Auf Scholar ansehen
Interview Tech
Datensätze
Kuratierte Datensätze, die Forschenden beim Benchmarking von Erkennungsmodellen helfen. Jeder Datensatz verfügt über eine eigene Seite mit Zitation, Link zur Veröffentlichung und einem per E-Mail freigeschalteten Download.
A real-world faceswap collection used to evaluate deepfake detectors against in-the-wild manipulations rather than lab-only synthetics.
Financial and form documents tampered by a suite of AI editing tools, paired with originals — used to benchmark document forgery detectors.
A v2 expansion of AIForge-Doc covering GPT-Image-2 generated tampering — used in the 'When the Forger Is the Judge' benchmark.
Self-reported AI-generated images collected from Twitter during the first week of GPT-Image-2 deployment — captures real-world distribution shift.
Faces with low-cost cosmetic adversarial perturbations designed to defeat age estimation systems — used in 'Can a Teenager Fool an AI?'.
Fully synthetic receipts generated by GPT-4o, paired with a human-study evaluation of detectability — used for AI-generated document forensics research.
Synthetic eye-movement trajectories rendered through a 3D eye simulator, replaying real reading paths — used for script reading detection research.
Interesse an einer Zusammenarbeit?
Wir arbeiten mit akademischen Einrichtungen und Industrielaboren an der Forschung zur Deepfake-Erkennung zusammen.
Kontakt aufnehmen