جی‌پی‌تی و تربیت خیابانی اگه چت‌جی‌پی‌تی با عیسی شوخی می‌کنه | Eric Notes
جی‌پی‌تی و تربیت خیابانی
اگه چت‌جی‌پی‌تی با عیسی شوخی می‌کنه اما با محمد نه، به این دلیل نیست که سوگیری داره. این صرفا یک دستکاری دستی در سیستمه تا برای شرکت دردسر ایجاد نشه، و گرنه مدل‌های زبانی فعلی سوگیری ندارند. نه اینکه بی‌طرف باشند، بلکه چون به هر سمتی سوگیری دارند، سوگیری ندارند. میشه ازشون اینطور جواب گرفت که همین فردا حمله به تایلند کار درستی نیست. و میشه ازشون اینطور جواب گرفت که کار درستی است. اینکه چرا اینطوریه به ماتریس‌ها و الگوریتم‌ها و فرمول‌ها ربطی نداره (با اینکه میشه با ماتریس‌ها و الگوریتم‌ها و فرمول‌ها توضیحش داد). به این ربط داره که این مدل‌ها با دیتای همگان تمرین داده شده‌اند. که البته دلیل شکوفایی‌شون همین بود (تصادفی نیست که شرکت‌هایی در هوش مصنوعی پیشتازند که بیشترین جمع‌آوری داده رو از کاربران دارند. هرکس روی اطلاعات مردم نشسته، روی گنج نشسته. فقط یک «غیر شرکت» وجود داره که اون هم پیشتازه: موسسه فناوری پکن. چون دیتای یک و نیم میلیارد چینی از طریق دولت در اختیارش قرار گرفته. جهش هوش مصنوعی به خاطر جهش در نرم‌افزار نبوده. هشتاد درصد نرم‌افزار در حال استفاده، بیشتر از سی سال قدمت دارند. جهش هوش مصنوعی به خاطر جهش در مانیتور کردن مردم در یک دهه گذشته‌ست). مشکل تمرین داده شدن با دیتای همگان اینه که جامعه ظرفیست که سوگیری‌های متضاد را در خود جا می‌دهد. و یه آدم رندوم این رو میدونه، و برای همین نمیذاره بچه‌ش تو خیابون بزرگ بشه. چون بچه در دریافتی‌هایی که در خیابان داره، تفکیک و ارزش‌گذاری خاصی اعمال نمی‌کنه. بنابراین به هر شکلی ممکنه دربیاد. سوگیری که خانواده بش تحمیل می‌کنه، یک نوع حمله به خیابون نیست، یک نوع دفاع در برابر خیابونه. این سوگیری خانوادگی، ابتدا بچه رو مجهز می‌کنه به مجموعه‌ای از قضاوت‌ها، بعد میفرستدش بیرون. اگه خانواده مسیحی باشه، از قبل براش تعیین می‌کنه که یه عده گمراهند، یه عده گناهکارند، یه عده مورد لطف مسیحند. اگه خانواده آتئیست باشه، میگه اون بیرون یه عده گرفتار افیون مذهبند، یک عده خرافاتی‌اند، یک عده مردسالارند. اگه هیچ کدوم این سوگیری‌ها اعمال نشه، این نتیجه رو خواهد داد که «همه درست میگن». و اگه قرار باشه همه درست بگن، باید با همه موافقت کرد. اگه در چت دیدید داره با همه موافقت می‌کنه برای اینه که طوری تمرین داده شده که فکر کنه همه درست میگن، چون فعلا جور دیگه‌ای نمی‌شد تمرینش داد. این در مورد دیتای محدود هم صادقه. اگه با تمام متونی که من نوشته‌ام تا الان تمرینش بدید، و اگه در طول زمان نظرم درباره موضوعی دچار تغییراتی شده باشه، هم نظر قبلیم رو درست خواهد پنداشت، هم نظر فعلیم رو. در حالی که خودم به سمت نظر فعلیم سوگیری دارم. هرکس طرفدار الان خودشه.
