سو تغذیه هوش مصنوعی، آیا فصلی جدید از رقابت شروع شده؟

در این پست به کمبود داده برای شرکت های بزرگ هوش مصنوعی و تاثیر اون بر آینده امنیت داده و قدرت مدل ها میپردازیم.

خب، هوش مصنوعی در اصل خودش قدرت ادراک نداره و صرفا با یه الگوریتم خیلی پیچیده، الگو های تکراری رو میبینه و از اون ها یاد میگیره و شرکت ها هم برای تامین الگو های تکراری از مطالب توی اینترنت استفاده میکنن. بله، شرکت های هوش مصنوعی تمامی داده ها رو [به عبارتی] دزدیدن، که یک اختراع بسیار پرکاربرد داشته باشن، اما ادامه این داستان همچنان ناواضحه. ببینین چند تا سناریو واسه آینده این فناوری وجود داره که میتونن همزمان یا غیر همزمان اتفاق بیفتن.

سناریوی اول: شرکت ها پردازش داده هارو بهتر میکنن تاحالا دیدین دانش آموزی که کلی کتابکار خریده و کل روز رو مطالعه میکنه باز هم در حد اونی باشه که یه کتابکار داره و کلا روزی دو ساعت درس میخونه؟ بله، دانش آموز دومی کیفیت مطالعه بالاتری داره. حالا شرکت های هوش مصنوعی هم میخوان به هوش مصنوعی روش پردازش بهتر داده ها رو یاد بدن و بهره وری اون رو حفظ کنن.

سناریوی دوم: هوش مصنوعی روی داده های مدل های قبلی آموزش میبینه. (Synthetic-data training) فرض کنین نسخه اول یه مدل رو آماده کردن برای استفاده. از مدل اول میخوان یه میلیون سوال و جواب آماده کنه برای تمرین دادن مدل دوم. از مدل دوم میخوان یه میلیون سوال و جواب آماده کنن برای مدل سوم و این چرخه تا عدد های بزرگ ادامه پیدا میکنه. حالا مشکلش چیه؟ اینکه اگر سوالای یکی از مدل ها یکم ناواضح یا غلط باشه، یه الگوی غلط توی "مغز" مدل های دیگه شکل میگیره، و این اشتباه اولیه شاید اونقدر جزئی باشه که زمانی که متوجه اون میشیم دیگه دیر شده باشه. مثل اینه که از یه کپی یک عالمه فوتوکپی دیگه هم بگیریم. اوایل افت کیفیت مشخص نیست، اما بعدا میفهمیم که این خیلی روی کیفیت تاثیر داره. و این تنها معضل این سناریو نیست، این یعنی در صورت واقعی شدن این سناریو، یه دسته ی دیگه از محتوای ساختگی وجود خواهد داشت: کپی هوش مصنوعی از هوش مصنوعی. ببینید الان محتوایی که میبینید یا محتوای دست ساز هست، یا محتوای ساخته هوش مصنوعی که عملا کپی از محتوای انسان ها هست (چون روی داده های انسان تمرین داده شده). حالا یه دسته ی دیگه هم اضافه میشه: کپی هوش مصنوعی از محتوای هوش مصنوعی. و ما باید این رو هم در صورت تحقق این سناریو بتونیم تشخیص بدیم که... خیلی خوشایند نیست.

سناریوی سوم (که با سناریوی قبل بسیار تفاوت داره): ارزشمند تر شدن داده های انسان ها. بیاین از مثال فوتوکپی ای که تو اسلاید قبل بیان شد استفاده کنیم. توی اینترنتی که همه چیز یه فوتوکپی هست، اون محتوایی که با دست انسان نوشته شده، از همه باارزش تره. شرکت ها ممکنه مبلغ های زیادی به افرادی بدن که همچنان از هوش انسانیشون استفاده میکنن یا ممکنه داده های زیادی رو از شرکت هایی که اطلاعات افراد رو جمع آوری میکنن و با بقیه شرکت ها به اشتراک میزارن (مثل گوگل) خریداری کنن.

و سناریوی آخر: هوش مصنوعی در دنیای واقعی آموزش می بینه. این لزوما به معنای دیدن ربات ها توی خیابون نیست، این یعنی هوش مصنوعی میاد روز یک آدم رو پردازش میکنه و از اون چیز یاد میگیره.