در حل چالشهای واقعی اعتمادپذیری هوش مصنوعی رقابت کنید
در دنیای امروز، هوش مصنوعی نقش حیاتی در زندگی روزمره ما ایفا میکند. اما چگونه میتوانیم اطمینان حاصل کنیم که این سیستمها امن، قابل اعتماد و عادلانه هستند؟ رویداد کمان با هدف پاسخ به این سوالات کلیدی طراحی شده است.
شناسایی و خنثیسازی حملات پیچیده علیه سیستمهای هوش مصنوعی با استفاده از تکنیکهای پیشرفته امنیتی.
طراحی و پیادهسازی معماریهای شبکه عصبی مقاوم در برابر حملات و دستکاریهای مخرب.
ایجاد رابطهای امن و قابل اعتماد بین انسان و سیستمهای هوش مصنوعی با تمرکز بر حریم خصوصی.
چهار محور کلیدی برای ساخت هوش مصنوعی قابل اعتماد
امنیت داده، نشت اطلاعات و مسمومیت مدل
تمرکز بر لایه داده و مرحله آموزش؛ شناسایی و مهار داده های آلوده در مجموعه آموزشی، جلوگیری از ایجاد در پشتی در مدل و کاهش احتمال نشت اطلاعات و نقض حریم خصوصی کاربران.
حملات خصمانه، پادقید و تزریق راهنماواره
تمرکز بر فریب دادن مدل در فاز استنتاج؛ شامل ورودی های خصمانه، حملات Jailbreak و سناریوهای تزریق پرامپت در سامانه های RAG و عامل ها، همراه با طراحی و ارزیابی گاردریل ها و لایه های پالایش.
استحکام، تاب آوری، اصالت و زنجیره تامین مدل
نگاه به مدل به عنوان یک سامانه عملیاتی؛ اطمینان از اصالت و سلامت زنجیره تامین و استقرار مدل، ارزیابی رفتار در برابر نویز و داده های خارج از توزیع و مدیریت دسترس پذیری و مصرف منابع در برابر حملات مصرف منابع و خطاهای سیستمی.
عدالت الگوریتمی، شفافیت و پاسخ گویی
تمرکز بر ابعاد اجتماعی و حاکمیتی؛ ممیزی خروجی ها برای شناسایی سوگیری ها، توسعه روش های کاهش نابرابری، افزایش تفسیرپذیری تصمیمات مدل و فراهم کردن امکان حسابرسی و پاسخ گویی سامانه های هوش مصنوعی.
مسیر شما از ثبتنام تا قهرمانی
در این مرحله تیم خود را تشکیل داده و برای شرکت در مسابقه ثبتنام کنید.
شرکت در کارگاههای برخط برای آشنایی با چالشها و ابزارهای مورد نیاز.
حل چالشهای مطرح شده در بستر برخط و ارسال پاسخها.
ارائه حضوری راهکارها توسط تیمهای برتر و انتخاب قهرمانان.
برای آمادگی هرچه بیشتر شما، یک کارگاه تخصصی پیش از شروع مرحله اول مسابقه برگزار خواهیم کرد.
مقالات و اخبار مسابقه کمان
💠 گزارش بینالمللی ایمنی هوش مصنوعی که در ژانویه ۲۰۲۵ منتشر شد، نتیجه تلاش جمعی بیش از ۹۰ کارشناس از…
گزارش «AI 2027» آیندهای را پیشبینی میکند که در آن هوش مصنوعی فوقانسانی (Superintelligence) تا پایان دهه ۲۰۲۰ ظهور میکند،…
هوش مصنوعی دیگر یک مفهوم علمی-تخیلی نیست؛ این فناوری در همهجای زندگی ما، از دستیارهای صوتی گرفته تا تشخیصهای پزشکی…
پاسخ سوالات رایج شما
تمامی دانشجویان، فارغالتحصیلان، پژوهشگران و علاقهمندان به حوزه هوش مصنوعی و امنیت سایبری میتوانند به صورت تیمی در این مسابقه شرکت کنند.
خیر، شرکت در مسابقه کاملا رایگان است.
هر تیم میتواند شامل ۲ یا ۳ عضو باشد.
جوایز ارزنده نقدی و غیرنقدی برای تیمهای برتر در نظر گرفته شده است. جزئیات دقیق جوایز به زودی در همین وبسایت اعلام خواهد شد.
با عضویت در خبرنامه، جدیدترین اطلاعات مربوط به مسابقه، کارگاهها و مقالات را مستقیماً در ایمیل خود دریافت کنید.