OpenAI در حال آماده سازی مدل جدیدی با نام Astra است؛ مدلی که میتواند یکی از بحث برانگیزترین محصولات هوش مصنوعی این شرکت تا امروز باشد.
طبق گزارش TechCrunch، OpenAI اعلام کرده Astra نخستین مدل این شرکت است که به سطح «بحرانی» توانایی های امنیت سایبری رسیده است. این مدل در آزمایش ها توانسته آسیبپذیری های سیستم های کامپیوتری را شناسایی کند و در برخی موارد بدون دخالت انسان از آنها بهره برداری کند.
OpenAI میگوید Astra در آزمون ExploitBench امتیاز کامل گرفته و در یک نسخه تغییریافته از این آزمایش نیز موفق شده دو آسیبپذیری روز صفر یا Zero-Day را شناسایی و مورد سوءاستفاده قرار دهد. این موضوع نشان میدهد مدلهای هوش مصنوعی در حال رسیدن به سطحی هستند که میتوانند بخشی از کار متخصصان امنیت و حتی هکرها را به صورت مستقل انجام دهند.
به همین دلیل، OpenAI قصد ندارد تمام قابلیت های امنیت سایبری Astra را بدون محدودیت در اختیار همه کاربران قرار دهد. این شرکت گفته دسترسی به پیشرفته ترین قابلیت های امنیتی مدل محدود خواهد بود و سیستم های جدیدی نیز برای شناسایی استفاده های مشکوک و جلوگیری از سوءاستفاده در نظر گرفته شده است.
Astra هنوز به صورت عمومی منتشر نشده، اما OpenAI گفته این مدل به زودی عرضه خواهد شد. در صورت موفقیت، Astra میتواند ابزار بسیار قدرتمندی برای پیدا کردن سریع آسیبپذیری ها و محافظت از سیستم ها باشد؛ در عین حال همین قدرت، نگرانی های جدی درباره استفاده مخرب از هوش مصنوعی را نیز افزایش میدهد.
نظرات
هنوز نظری ثبت نشده است.