Jassy Amazon memuji chip AI khusus, saham NVIDIA turun sebelum pembukaan Oleh Making an investment.com

Saham NVIDIA (NASDAQ 🙂 sedikit lebih rendah pada perdagangan pra-pembukaan hari Kamis, yang sebagian mungkin terkait dengan komentar dari CEO Amazon.com (NASDAQ 🙂 Andy Jassy mengenai chip AI dalam surat tahunan 2023 kepada pemegang saham hari ini.

Pada pemeriksaan terakhir, saham NVIDIA turun 0,5% menjadi $866,03. Saham NVIDIA turun 10,6% dari degree tertingginya di bulan Maret tetapi tetap naik 75,6% tahun ini dan 215,6% dari tahun lalu.

Apa yang Andy Jassy katakan tentang NVIDIA?

Dalam surat tersebut, Jassy mengatakan bahwa meskipun mereka terus menawarkan chip Nvidia, dia memuji chip AI khusus Amazon di tengah masalah pasokan dan kinerja harga.

“Sampai saat ini, hampir semua FM terkemuka telah dilatih tentang chip Nvidia, dan kami terus menawarkan koleksi terluas dari example Nvidia dari penyedia mana pun,” komentar Jassy dalam suratnya. “Meskipun demikian, pasokan masih langka dan biaya masih menjadi masalah karena pelanggan meningkatkan skala style dan aplikasi mereka. Pelanggan telah meminta kami untuk memberikan batasan pada harga-kinerja untuk chip AI, sama seperti yang kami lakukan pada Graviton untuk chip CPU umum. Hasilnya, kami telah membuat chip pelatihan AI khusus (bernama Trainium) dan chip inferensi (bernama Inferentia). Pada tahun 2023, kami mengumumkan versi kedua dari chip Trainium dan Inferentia kami, yang keduanya jauh lebih berperforma harga dibandingkan versi pertama dan lainnya. alternatif. Musim gugur yang lalu, pembuat FM terkemuka, Anthropic, mengumumkan akan menggunakan Trainium dan Inferentia untuk membangun, melatih, dan menerapkan FM masa depannya. Kami sudah memiliki beberapa pelanggan yang menggunakan chip AI kami, termasuk Anthropic, Airbnb, Hugging Face, Qualtrics , Ricoh, dan Jepret.”

Apa yang dilakukan Amazon di AI?

Jassy menyoroti bahwa meskipun fokus awal publik terutama tertuju pada aplikasi GenAI, khususnya ChatGPT, ada tiga lapisan penting dalam tumpukan GenAI, yang masing-masing berukuran cukup besar. Dia mengatakan Amazon berinvestasi besar-besaran pada semuanya.

Di dasar tumpukan GenAI, pengembang dan perusahaan fokus pada pembangunan style fondasi (FM), yang didukung oleh kekuatan komputasi dan perangkat lunak. Chip Nvidia mendominasi tetapi upaya untuk meningkatkan kinerja harga mencakup chip AI khusus seperti Trainium dan Inferentia. Amazon SageMaker menyederhanakan pengembangan style. Di lapisan tengah, Amazon Bedrock menyediakan layanan terkelola untuk memanfaatkan fitur FM dan cloud. Pada lapisan paling atas, Amazon memimpin dalam menciptakan beragam aplikasi GenAI, seperti Rufus dan Amazon Q. AWS bertujuan untuk mendemokratisasi AI dan memprioritaskan keamanan.