سه شرکت بزرگ فعال در حوزه هوش مصنوعی، یعنی OpenAI، Anthropic و Google DeepMind، در حال انجام مذاکرات مشترک درباره ایمنی مدل های پیشرفته هوش مصنوعی هستند؛ موضوعی که در روزهای اخیر به یکی از بحث های مهم صنعت AI تبدیل شده است.
کریس لهین، مدیر سیاست گذاری جهانی OpenAI، اعلام کرده است که این شرکت در چند هفته گذشته با Anthropic و Google DeepMind درباره مسائل مربوط به ایمنی هوش مصنوعی گفت و گو داشته است.
تمرکز اصلی این همکاری روی ایجاد روش هایی برای ارزیابی مستقل مدل های قدرتمند و همچنین شکل گیری استانداردهای مشترک برای توسعه ایمن هوش مصنوعی است.
این موضوع پس از آن مطرح شد که داریو آمودی، مدیرعامل Anthropic، خواستار همکاری بیشتر شرکت های فعال در حوزه هوش مصنوعی برای کاهش ریسک های مرتبط با توسعه سریع مدل های پیشرفته شد. سم آلتمن از OpenAI و دیگر مدیران صنعت نیز از بخش هایی از این پیشنهاد حمایت کرده اند.
یکی از ایده های مطرح شده، استفاده از ارزیاب های مستقل برای بررسی عملکرد و خطرات مدل های پیشرفته است. بر اساس گزارش TechCrunch، OpenAI اعلام کرده که از حضور ارزیاب های شخص ثالث برای بررسی ایمنی مدل های خود حمایت می کند.
در کنار این موضوع، بحث ایجاد یک نهاد استانداردگذاری برای صنعت هوش مصنوعی نیز مطرح شده است. ایده این است که چنین نهادی بتواند استانداردهای مشخصی برای ارزیابی مدل های قدرتمند ایجاد کند و شرکت های مختلف بتوانند از معیارهای مشترک استفاده کنند.
اهمیت این اتفاق در این است که شرکت های بزرگ هوش مصنوعی معمولا در بازار با یکدیگر رقابت مستقیم دارند. همکاری آنها روی استانداردهای ایمنی می تواند نشان دهنده این باشد که مسئله ارزیابی ریسک مدل های پیشرفته به موضوعی فراتر از یک شرکت خاص تبدیل شده است.
با این حال، هنوز مشخص نیست این همکاری دقیقا به چه ساختار رسمی و دائمی منجر خواهد شد. همچنین درباره نحوه اجرای استانداردهای مشترک و میزان استقلال ارزیاب ها، جزئیات کامل اعلام نشده است.
در حال حاضر، صنعت هوش مصنوعی با سرعت زیادی در حال توسعه مدل هایی است که توانایی انجام وظایف پیچیده، استفاده از ابزارها و اجرای فرایندهای چندمرحله ای را دارند. به همین دلیل، بحث درباره نحوه آزمایش و نظارت بر این مدل ها نیز اهمیت بیشتری پیدا کرده است.
همکاری OpenAI، Anthropic و Google در این زمینه می تواند یکی از مهم ترین تحولات اخیر در مسیر شکل گیری استانداردهای ایمنی برای نسل جدید سیستم های هوش مصنوعی باشد.
نظرات
هنوز نظری ثبت نشده است.