Join the elite AI community and compete in solving real trustworthy AI challenges
In today's world, artificial intelligence plays a vital role in our daily lives. But how can we ensure these systems are secure, trustworthy, and fair? The Kaman competition is designed to answer these key questions.
Detecting and neutralizing sophisticated attacks against AI systems using advanced security techniques.
Designing and implementing neural network architectures resistant to attacks and malicious manipulation.
Creating secure and trustworthy interfaces between humans and AI systems with a focus on privacy.
Four key axes for building trustworthy AI
امنیت داده، نشت اطلاعات و مسمومیت مدل
تمرکز بر لایه داده و مرحله آموزش؛ شناسایی و مهار داده های آلوده در مجموعه آموزشی، جلوگیری از ایجاد در پشتی در مدل و کاهش احتمال نشت اطلاعات و نقض حریم خصوصی کاربران.
حملات خصمانه، پادقید و تزریق راهنماواره
تمرکز بر فریب دادن مدل در فاز استنتاج؛ شامل ورودی های خصمانه، حملات Jailbreak و سناریوهای تزریق پرامپت در سامانه های RAG و عامل ها، همراه با طراحی و ارزیابی گاردریل ها و لایه های پالایش.
استحکام، تاب آوری، اصالت و زنجیره تامین مدل
نگاه به مدل به عنوان یک سامانه عملیاتی؛ اطمینان از اصالت و سلامت زنجیره تامین و استقرار مدل، ارزیابی رفتار در برابر نویز و داده های خارج از توزیع و مدیریت دسترس پذیری و مصرف منابع در برابر حملات مصرف منابع و خطاهای سیستمی.
عدالت الگوریتمی، شفافیت و پاسخ گویی
تمرکز بر ابعاد اجتماعی و حاکمیتی؛ ممیزی خروجی ها برای شناسایی سوگیری ها، توسعه روش های کاهش نابرابری، افزایش تفسیرپذیری تصمیمات مدل و فراهم کردن امکان حسابرسی و پاسخ گویی سامانه های هوش مصنوعی.
Your journey from registration to championship
Form your team and register for the competition at this stage.
Participate in online workshops to familiarize yourself with challenges and required tools.
Solve the presented challenges online and submit your answers.
In-person presentation of solutions by top teams and selection of champions.
To better prepare you, we will hold a specialized workshop before the start of the first stage of the competition.
Kaman competition articles and news
💠 گزارش بینالمللی ایمنی هوش مصنوعی که در ژانویه ۲۰۲۵ منتشر شد، نتیجه تلاش جمعی بیش از ۹۰ کارشناس از…
گزارش «AI 2027» آیندهای را پیشبینی میکند که در آن هوش مصنوعی فوقانسانی (Superintelligence) تا پایان دهه ۲۰۲۰ ظهور میکند،…
هوش مصنوعی دیگر یک مفهوم علمی-تخیلی نیست؛ این فناوری در همهجای زندگی ما، از دستیارهای صوتی گرفته تا تشخیصهای پزشکی…
Answers to your common questions
All students, graduates, researchers, and enthusiasts in AI and cybersecurity can participate in teams.
No, participation is completely free.
Each team can have 2 to 4 members.
Valuable cash and non-cash prizes are planned for top teams. Detailed prize information will be announced soon on this website.
Subscribe to receive the latest information about the competition, workshops, and articles directly in your email.