Nasional, Buana Informasi TV - Ada beberapa pengumuman yang dilakukan Amazon Web Services di ajang konferensi re:Invent, terutama berbagai hal terkait AI generatif, dan bagaimana pemanfaatan AI untuk memodernisasi layanan perusahaan.

Selain itu, Amazon pun memamerkan chip AI barunya untuk keperluan pengolahan berbasis cloud dan melatih model AI. Chip tersebut bernama Trainium2. Amazon menjanjikan chip ini bisa menghasilkan performa 4x lebih tinggi dengan efisiensi daya 2x lebih tinggi dibanding pendahulunya yang bernama Trainium.

Dalam keterangannya, Trainium2 dibuat untuk keperluan pelatihan foundation model (FM) kelas atas dan large language model (LLM) dengan jumlah parameter mencapai hitungan triliun, demikian dari Techspot, Kamis (30/11/2023).

Mereka pun menyebut Trainium2 akan punya kemampuan sangat kencang, dan kemampuannya itu membuat pengembang bisa melatih model dalam waktu yang jauh lebih cepat dibandingkan saat memakai chip Trainium generasi pertama.

Kemampuan komputasi Trainium2 mencapai 65 exaflops, alias mencapai level performa komputer super, yang membuat penggunanya bisa melatih LLM dengan parameter mencapai 300 miliar dalam hitungan minggu, bukan bulan.

Anthropic, perusahaan AI yang didukung investasi Amazon, sudah mengumumkan penggunaan Trainium2 untuk melatih model AI mereka.

Selain Trainium2, ada juga Graviton4, chip berbasis Arm yang menurut Amazon adalah prosesor AWS yang paling kencang dan paling efisien sampai saat ini. Chip ini didesain untuk berbagai aplikasi yang berjalan di Amazon Elastic Compute Cloud (EC)2, dan diklaim punya performa komputasi 30% lebih tinggi, jumlah core 50% lebih banyak, dan bandwidth memori 75% lebih besar dibanding Graviton3.

Chip baru Amazon ini meningkatkan persaingan di sektor hardware untuk AI, yang sejauh ini didominasi Nvidia. Namun ada juga perusahaan seperti Microsoft yang baru merilis Azure Maia 100 dan Azure Cobalt, dan membuat persaingan chip AI menjadi makin seru. (**/red)