گوگل چت ربات آزمایشی هوش مصنوعی خود را برای آزمایش عمومی باز می کند

LaMDA و BlenderBot 3 بهترین عملکرد را در مدل‌های زبانی که گفتگوی بین رایانه و انسان را شبیه‌سازی می‌کنند، دنبال می‌کنند.

در حالی که گوگل می خواهد ایمنی را تضمین کند و از گفتن چیزهای شرم آور هوش مصنوعی خود اجتناب کند، گوگل همچنین می تواند از قرار دادن آن در طبیعت برای تجربه گفتار انسانی که قادر به پیش بینی آن نیست بهره مند شود. کاملاً معضل. برخلاف یکی از مهندسان گوگل که در مورد اینکه آیا LaMDA حساس است یا خیر، گوگل بر چندین محدودیت تاکید می کند که Tay مایکروسافت از آنها در هنگام قرار گرفتن در معرض عموم رنج می برد.

این دو شرکت اذعان می‌کنند که هوش مصنوعی آنها ممکن است گهگاه از نظر سیاسی نادرست باشد، همانطور که چت ربات مایکروسافت در سال 2016 پس از اینکه مردم با ورودی‌های نامطلوب آن را تغذیه کردند، انجام داد. و مانند متا، گوگل می‌گوید LaMDA برای جلوگیری از دادن پاسخ‌های نادرست و توهین‌آمیز تحت «بهبودهای کلیدی ایمنی» قرار گرفته است.

ساندی پیچای، مدیرعامل گوگل در آن زمان گفت: «آشپزخانه تست هوش مصنوعی» به این منظور به شما این حس را می دهد که داشتن LaMDA در دستان شما چگونه است.

تست های داخلی گوگل بر روی بهبود ایمنی هوش مصنوعی متمرکز شده است. گوگل می‌گوید که آزمایش‌های متخاصم را برای یافتن نقص‌های جدید در مدل انجام داده است و «تیم قرمز» را به خدمت گرفته است – کارشناسان حمله‌ای که می‌توانند به شیوه‌ای که عموم مردم محدودیت‌ناپذیر می‌توانند بر مدل تأکید کنند – که «خروجی‌های مضر و در عین حال ظریف دیگری را کشف کرده‌اند. ” طبق گفته های تریس وارکنتین از تحقیقات گوگل و جاش وودوارد از آزمایشگاه های گوگل.

LaMDA یک مدل زبان بزرگ با 137 میلیارد پارامتر است، در حالی که BlenderBot 3 متا یک پارامتر 175 میلیاردی است “مدل گفتگوی قادر به مکالمه دامنه باز با دسترسی به اینترنت و حافظه بلند مدت”.