خطاهای طبقه بندی تصاویر هوش مصنوعی می تواند زندگی شما را خراب کند. در اینجا یک راه برای کاهش آنها وجود دارد

به این فکر کنید که چقدر سریع اینترنت به کانال کلیدی برای حجم عظیمی از فعالیت های انسانی تبدیل شد، از تجارت گرفته تا ارتباطات و همکاری، و شروع به دریافت ایده ای در مورد نقش تحول آفرین هوش مصنوعی (AI) در زندگی ما در آینده می کنید. دهه

درست مانند اینترنت، هوش مصنوعی و زیرشاخه‌های آن – یادگیری ماشینی، پردازش زبان طبیعی، تشخیص چهره و یادگیری عمیق – پیش‌بینی می‌شود که جامعه انسانی را با قرار دادن خود در هر جنبه‌ای از زندگی روزمره متحول کند.

همچنین: 5 راه برای آماده شدن برای تأثیر هوش مصنوعی مولد بر حرفه فناوری اطلاعات

حتی امروزه، بسیاری از سیستم‌ها و خدمات فناوری اطلاعات، راه‌حل‌های مبتنی بر هوش مصنوعی را برای مشکلات کسب‌وکار تبلیغ می‌کنند. این فراگیر شدن این سوال منطقی را مطرح می کند که اگر هوش مصنوعی از کار بیفتد چه اتفاقی می افتد؟

نگران کننده، “توهمات” هوش مصنوعی — که در آن فن آوری پاسخ به سوالاتی که نمی داند — در حال حاضر رایج است.

ما همچنین شاهد بودیم که الگوریتم‌ها تعصبات جنسیتی، نژادی، قومیتی و طبقاتی را که قبلاً در جامعه ایجاد شده است، نشان داده و تقویت می‌کنند.

همچنین: آیا می خواهید در هوش مصنوعی کار کنید؟ چگونه حرفه خود را در 5 مرحله تغییر دهید

این نوع مسائل به این دلیل به وجود می‌آیند که بسیاری از داده‌هایی که مدل‌های هوش مصنوعی را تقویت می‌کنند از محتوای موجود در اینترنت حذف می‌شوند، که اکثریت آن‌ها توسط ساختارهای قدرت مسلط تولید شده‌اند.

بنابراین، برای اطمینان از عملکرد مناسب یک الگوریتم هوش مصنوعی و عدم ایجاد گاف‌های شرم‌آور، مدل‌هایی که فناوری نوظهور قدرتمند باید با مجموعه‌ای از داده‌ها – و در مورد زیر، تصاویر – که به‌عنوان معیارهای بی‌طرفانه عمل می‌کنند، آموزش داده شوند.

افزایش هوش مصنوعی به روش صحیح

به عنوان مثال، سیستم هشدار اولیه کالیفرنیا دارای یک الگوریتم تشخیص تصویر است که به بیش از هزار دوربین در سراسر ایالت متصل است. این مدل برای شناسایی پف دود از ابر آموزش داده شده است.

از تومورهای ریه‌های شما گرفته تا ماشین‌های منحرف شده در بزرگراه، نرم‌افزار تشخیص تصویر که برای یافتن شاخص‌های کلیدی ناشی از نویز طراحی شده است، در سناریوهای حیاتی و حیاتی به کار گرفته می‌شود.

در حالی که تأثیر مثبت بالقوه این نوع سیستم ها قابل توجه است، خطر هوش مصنوعی خطاکار نیز قابل توجه است. بنابراین، چگونه می‌توانید اطمینان حاصل کنید که سیستم‌های تشخیص تصویر هوش مصنوعی به تخریب جامعه آنطور که ما می‌شناسیم کمکی نمی‌کنند؟

همچنین: شش مهارتی که برای تبدیل شدن به یک مهندس سریع هوش مصنوعی نیاز دارید

داشتن یک «مجموعه آموزشی» صوتی از تصاویر که معیارهای خوبی ارائه می‌کند، مهم است. این آموزش شامل حصول اطمینان از اطلاعات مربوط به هر پیکسل، و نحوه برچسب گذاری و طبقه بندی آن در یک دسته، با دقت بی عیب و نقص انجام می شود.

به این ترتیب، زمانی که الگوریتم در تلاش است تا بفهمد یک تصویر خاص در کدام دسته قرار می‌گیرد، می‌تواند با مراجعه به اطلاعات روی تصاویر در مجموعه آموزشی این کار را انجام دهد.

با این حال، مهم نیست که مجموعه آموزشی چقدر به خوبی طراحی شده باشد، یک الگوریتم گاهی اوقات با محتوای ناآشنا روبرو می شود و به طرز وحشتناکی متوقف می شود.

علاوه بر این، تلاش برای یافتن این که بن‌بست در مجموعه داده‌ها کجا رخ داده است، مانند تلاش برای یافتن یک سوزن، نه فقط یک انبار کاه، بلکه یک انبار کامل است، با توجه به پتانسیل تریلیون‌ها واحد اطلاعاتی که مجموعه‌های داده را تشکیل می‌دهند.

خبر خوب این است که دیوید گلیچ، دانشمند و استاد علوم کامپیوتر در دانشگاه پردو، و دانشمندان دیگر تامال دی و منگ لیو، راه حل جدیدی برای این مشکل حل نشدنی ارائه کرده اند.

گلیچ می‌گوید: «ابزاری که ما ایجاد کرده‌ایم به شما کمک می‌کند مکان‌هایی را پیدا کنید که شبکه می‌گوید: «هی، من برای انجام آنچه خواسته‌اید به اطلاعات بیشتری نیاز دارم». من به مردم توصیه می‌کنم از این ابزار برای هر سناریو تصمیم‌گیری شبکه عصبی با ریسک بالا یا کار پیش‌بینی تصویر استفاده کنند.»

زیر کاپوت چیه؟

زمانی که گلیچ تحقیقات خود را انجام داد، با مشکلاتی در پایگاه داده خود مواجه شد. پایگاه داده اشعه ایکس، توالی ژن و پوشاک را با چیزهای دیگر اشتباه گرفته است.

او می‌گوید که یک شبکه عصبی عادت مزمن به برچسب زدن یک ماشین به عنوان پخش‌کننده نوار داشت، فقط به این دلیل که عکس‌ها از فهرست‌های فروش آنلاین که حاوی تجهیزات استریو ماشین بودند استخراج شده بودند.

مشکل از این است که چگونه الگوریتم یک تصویر را در دسته بندی مناسب قرار می دهد، که وابسته به تولید دسته ای از اعداد به نام «بردارهای جاسازی شده» است که بر اساس اطلاعات روی تصویر ایجاد می شوند.

هوش مصنوعی بردارهای تعبیه شده در «مجموعه آموزشی» را با سایر تصاویر مجموعه داده مقایسه می کند. تصویر در یک دسته بندی با احتمال تطابق بالا قرار می گیرد.

همچنین: چگونه کارمندان را وادار می‌کنید که از هوش مصنوعی استقبال کنند؟ (ممکن است این را یواشکی بیابید)

متأسفانه، بردارهای تعبیه شده اغلب بی معنی هستند. بنابراین، وقتی یک عدم تطابق یا خطا وجود دارد، راهی برای فرو رفتن در لایه‌های غیرقابل تشخیص الگوریتم و تشخیص خطای توهین‌آمیز وجود ندارد.

برای غلبه بر این مانع، گلیچ و تیمش از طرحی مبتکرانه استفاده کردند. آنها مسیری انحرافی سریع در زمینه توپوگرافی گرفتند، جایی که اساساً فناوری هایی مانند Google Maps پیدایش خود را پیدا می کنند.

آنها تصمیم گرفتند رابطه بردارها را بر روی یک نمودار Reeb، یک “مشخص کننده شکل فشرده” و راه حلی که به مدت 75 سال در تجزیه و تحلیل شکل استفاده شده است، ترسیم کنند.

سپس مجموعه داده‌ها به نقاط کد رنگی تبدیل شد که بردارهای متعلق به یک دسته یا دسته دیگر را نشان می‌دهند. نقطه‌های همرنگ که به‌صورت خوشه‌ای نزدیک شده‌اند، همان دسته را نشان می‌دهند.

نقطه‌هایی با رنگ‌های مختلف که روی هم قرار گرفته‌اند، فوراً نشان می‌دهند که چیزی نادرست است و – از همه مهم‌تر – جایی که می‌توان مشکلات را پیدا کرد.

همچنین: چگونه فن‌آوران رنسانس نقاط بین هوش مصنوعی و تجارت را به هم متصل می‌کنند

و دقیقاً به همین ترتیب، باطن غیرقابل درک یک الگوریتم به همراه نقاط مشکل آن ناگهان مثل روز روشن شد.

گلیچ گفت: «کاری که ما انجام می‌دهیم این است که مجموعه‌های پیچیده‌ای از اطلاعات را که از شبکه بیرون می‌آیند دریافت می‌کنیم و به مردم اجازه می‌دهیم ببینند شبکه چگونه داده‌ها را در سطح کلان می‌بیند.»

“نقشه Reeb نشان دهنده چیزهای مهم است – گروه های بزرگ و نحوه ارتباط آنها با یکدیگر – و این امکان دیدن خطاها را فراهم می کند.”

گلیچ و همکارانش یک قدم فراتر رفته اند و ابزار طبقه بندی تصاویر هوش مصنوعی خود را در دسترس عموم قرار داده اند. کد برای ابزار در GitHub در دسترس است، به عنوان مثال موارد استفاده.

اکنون، هر کسی می‌تواند روابط بین تصاویر را در مجموعه داده‌های هوش مصنوعی ببیند، که محققان آن را «نمای چشم پرنده» می‌نامند.

مردم می توانند از این ابزار برای غواصی و یافتن منبع مشکل استفاده کنند، چیزی که شبکه های عصبی برای عملکرد صحیح، جلوگیری از سوگیری و ایمن نگه داشتن ما به شدت به آن نیاز دارند.