امنیت هوش مصنوعی

تهدیدات و راهکارهای امنیتی سامانه‌های یادگیری ماشین و مدل‌های زبانی.

پژوهشمحتوای نمونه

امنیت سامانه‌های یادگیری ماشین و مدل‌های زبانی بزرگ

مطالعه تهدیدات و سازوکارهای دفاعی سامانه‌های مبتنی بر یادگیری ماشین، از حملات تخاصمی و مسموم‌سازی داده تا امنیت عامل‌های مبتنی بر مدل‌های زبانی.

۱۵ مهر ۱۴۰۵

خبرمحتوای نمونه

مروری بر فهرست OWASP Top 10 برای برنامه‌های مبتنی بر مدل‌های زبانی بزرگ

با گسترش استفاده از مدل‌های زبانی بزرگ در محصولات و سامانه‌ها، پروژه OWASP فهرستی از مهم‌ترین ریسک‌های امنیتی این برنامه‌ها منتشر کرده است؛ از تزریق دستور تا افشای اطلاعات حساس و اختیارات بیش از…

۹ مهر ۱۴۰۵

محتوای آموزشیمحتوای نمونه

تزریق دستور (Prompt Injection) در سامانه‌های مبتنی بر مدل‌های زبانی

تزریق دستور یکی از مهم‌ترین تهدیدات سامانه‌های مبتنی بر مدل‌های زبانی است که در آن ورودی‌های دست‌کاری‌شده، رفتار مدل را برخلاف خواست طراح تغییر می‌دهند.

۷ مهر ۱۴۰۵

امنیت سامانه‌های یادگیری ماشین و مدل‌های زبانی بزرگ

مروری بر فهرست OWASP Top 10 برای برنامه‌های مبتنی بر مدل‌های زبانی بزرگ

تزریق دستور (Prompt Injection) در سامانه‌های مبتنی بر مدل‌های زبانی

برای ارزیابی وضعیت امنیتی سازمان خود با ما در ارتباط باشید