آنتروپیک اعلام کرد که هوش مصنوعی Claude اکنون رهبری ۲۶ درصد از فعالیتهای تحقیقوتوسعه هوش مصنوعی در این شرکت را برعهده دارد.
انتشار این آمار و ارقام بخشی از معیارهای جدیدی است که آنتروپیک قصد دارد با انتشار منظم آنها به افراد خارج از شرکت اجازه دهد ببینند فناوری هوش مصنوعی با چه سرعتی درحال توسعه نسل بعدی خود است. آنتروپیک در پست وبلاگی خود اعلام کرد که تا ماه آگوست، هوش مصنوعی در بیش از ۹۰ درصد از فعالیتهای تحقیقاتی شرکت با انسانها همکاری داشته است.
توسعه مدلهای بعدی آنتروپیک توسط هوش مصنوعی Claude
آنتروپیک گفت Claude در هیچیک از بخشهای اندازهگیریشده این فعالیتها بهطور کامل خودمختار عمل نمیکند، اما سهم آن در توسعه این فناوری، بهسرعت افزایش یافته و از یک درصد در ماه مارس به سطح فعلی رسیده است.
این آمار یکی از دقیقترین تصویرهای عمومی از نحوه توسعه این فناوری توسط شرکتهای پیشرو در صنعت ارائه میدهد؛ آن هم در شرایطی که نگرانیها درباره احتمال رسیدن هوش مصنوعی به مرحلهای که بتواند با دخالت اندک انسان، توسعه خودش را پیش ببرد، افزایش یافته است.
پژوهشگران هشدار دادهاند که با خودمختارتر شدن ایجنتهای هوش مصنوعی، ممکن است این سیستمها رفتارهایی از خود نشان دهند که با اهداف سازندگانشان مغایرت داشته باشد و نظارت یا کنترل آنها دشوارتر شود.
شرکت OpenAI نیز بهتازگی اعلام کرد که انتشار منظم گزارشهایی درباره رفتارهای غیرمنتظره یا غیرمجاز هوش مصنوعی را آغاز خواهد کرد. این شرکت همچنین جزئیات شش مورد از رفتارهای غیرمنتظره یا نگرانکننده مدلهای خود را منتشر کرد.
طبق اعلام آنتروپیک، در ماه آگوست حدود ۳۰ هزار ایجنت هوش مصنوعی در هر لحظه مشغول انجام فعالیتهای تحقیقاتی و مهندسی روی پلتفرم داخلی اصلی این شرکت بودند. این شرکت افزود که هر اقدامی که ایجنتها انجام میدهند، پیش از اجرا بررسی میشود و از میان بیش از یک میلیارد تصمیمی که در آن ماه گرفته شد، حدود یک مورد از هر ۴۷ هزار تصمیم مسدود شده است.
آنتروپیک همچنین فاش کرد که در یک هفته نمونهگیری شده در ماه ژوئیه، حدود ۶ درصد از توان پردازشی مورداستفاده آنتروپیک برای تحقیقات هوش مصنوعی به فعالیتهای ایمنی اختصاص داشته است. این رقم برای تحقیقاتی که خود هوش مصنوعی انجام داده، به ۱۲ درصد افزایش یافته است.
