در دوره‌ای که مدل‌های هوش مصنوعی در حال پیشرفت سریع هستند، محققان BAAI ادعا می‌کنند که رکورد ثبت شده در ژانویه توسط Google’s Switch Transformer را که دارای ۱٫۶ میلیارد پارامتر است، شکسته‌اند.
یک موسسه هوش مصنوعی (AI) که با بودجه دولت چین تأمین می‌شود، از پیشرفته ترین مدل پردازش زبان طبیعی جهان (NLP) با پیشی گرفتن از گوگل و OpenAI رونمایی کرد، زیرا چین می‌خواهد رقابت تکنولوژیکی خود را در صحنه جهانی افزایش دهد.
مدل WuDao 2.0 یک مدل هوش مصنوعی از قبل آموزش دیده است که از ۱٫۷۵ تریلیون پارامتر برای شبیه سازی گفتار مکالمه، نوشتن شعر، درک تصاویر و حتی تولید دستورالعمل استفاده می‌کند. این پروژه توسط موسسه تحقیقاتی غیرانتفاعی آکادمی هوش مصنوعی پکن (BAAI) هدایت شد و با کمک بیش از ۱۰۰ دانشمند از چندین سازمان توسعه یافت.
پارامترها متغیرهایی هستند که توسط مدل‌های یادگیری ماشین تعریف می‌شوند. با تکامل مدل، پارامترها بیشتر پردازش می‌شوند تا الگوریتم بتواند در یافتن نتیجه صحیح با گذشت زمان بهتر شود. هنگامی که یک مدل روی یک مجموعه داده خاص مانند نمونه‌های گفتار انسان آموزش دید، می‌توان نتیجه را برای حل مشکلات مشابه اعمال کرد.
به طور کلی، هرچه پارامترهای بیشتری در مدل وجود داشته باشد از پیچیدگی بیشتری برخوردار است. با این حال، ایجاد یک مدل پیچیده‌تر به زمان، هزینه و موفقیت در تحقیقات نیاز دارد.
در دوره‌ای که مدل‌های هوش مصنوعی در حال پیشرفت سریع هستند، محققان BAAI ادعا می‌کنند که رکورد ثبت شده در ژانویه توسط Google’s Switch Transformer را که دارای ۱٫۶ میلیارد پارامتر است، شکسته‌اند. OpenAI’s GPT-3 سال گذشته وقتی با ۱۷۵ میلیارد پارامتر منتشر شد موج بزرگی ایجاد کرد و آن را به بزرگترین مدل NPL در آن زمان تبدیل کرد.
WuDao 2.0 مهارت‌های چینی و انگلیسی را با مطالعه ۴٫۹ ترابایت تصاویر و متن، از جمله ۱٫۲ ترابایت هر یک از متن‌های چینی و انگلیسی، پوشش می دهد. در حال حاضر ۲۲ همکار در این زمینه دارد، از جمله سازنده گوشی‌های هوشمند Xiaomi، ارائه دهنده خدمات تحویل درخواستی Meituan و غول فیلم کوتاه Kuaishou.
“بلیک یان”، محقق هوش مصنوعی از پکن در این باره گفت: “این مدل‌های پیچیده که روی مجموعه داده‌های بزرگ آموزش داده شده‌اند، فقط هنگام استفاده برای یک ویژگی خاص به مقدار کمی داده جدید احتیاج دارند زیرا می‌توانند دانش قبلاً آموخته شده را مانند کارهای انسانی به کارهای جدید منتقل کنند.”
جانگ هونجیانگ، رئیس BAAI هنگام اعلام پروژه گفت، چنین مدل‌هایی به عنوان زیرساخت استراتژیک برای توسعه هوش مصنوعی عمل می‌کنند. آنها مانند نیروگاه‌هایی هستند که از داده‌ها به عنوان سوخت خود استفاده می‌کنند و برای پشتیبانی از نرم‌افزارهای هوش مصنوعی، داده و یا اطلاعات تولید می‌کنند.
چین و ایالات متحده در حال حاضر در رقابت برای تولید نسل بعدی فناوری‌های پیشرفته هستند. چین در زمینه‌های مهم استراتژیک عقب مانده است، اما دولت منابع مختلفی را به فناوری‌های جدیدی شامل هوش مصنوعی، ۵G و نیمه هادی‌ها اختصاص داده تا فاصله را با رقیب خود کاهش دهد.
یک مقام چینی در سخنرانی سال ۲۰۱۹ گفت، بودجه BAAI توسط دولت پکن تأمین می‌شود که ۳۴۰ میلیون یوان (۵۳٫۳ میلیون دلار آمریکا) فقط در ۲۰۱۸ و ۲۰۱۹ وارد آکادمی شد و متعهد شد که به حمایت خود ادامه دهد.
ایالات متحده با احساس اینکه ممکن است در حال از دست دادن برتری خود باشد، در حال تلاش و جنگ برای حفظ این پیشتازی است، جو بایدن رئیس جمهور آمریکا از کنگره خواسته است تا از افزایش ۱۳٫۵ میلیارد دلاری بودجه فدرال برای تحقیق و توسعه پشتیبانی کند. قانونی که در انتظار تصویب است و اجازه اختصاص بیش از ۱۱۰ میلیارد دلار را برای تحقیقات فناوری اساسی و پیشرفته طی ۵ سال می‌دهد.
سال گذشته، دولت قبلی تحت رئیس جمهور پیشین آمریکا دونالد ترامپ از برنامه‌های سرمایه گذاری یک میلیارد دلاری آمریکا در زمینه هوش مصنوعی و علوم کوانتومی رونمایی کرد. اما گزارشی که توسط کمیسیون امنیت ملی هوش مصنوعی ایالات متحده منتشر شد، چین را به عنوان تهدید بالقوه برای برتری هوش مصنوعی آمریکا معرفی کرد. سال گذشته نیز اندیشکده رند هشدار داده بود که تمرکز پکن بر هوش مصنوعی به آن کمک کرده است تا فاصله خود را با ایالات متحده کاهش دهد.