Media Kampung – Amazon bins an internal AI leaderboard for its Kiro employees, because they were burning through too many costly tokens, mengungkapkan tantangan baru dalam pengelolaan biaya kecerdasan buatan di perusahaan raksasa ini. Keputusan tersebut datang setelah laporan internal menunjukkan bahwa sistem leaderboard yang memantau penggunaan platform Kiro – sebuah lingkungan pengembangan AI bersifat agenik – justru memicu kompetisi yang berujung pada pemborosan token secara masif.
Latar Belakang Penggunaan Kiro di Amazon
Platform Kiro dirancang untuk memberi kebebasan kepada para insinyur dan ilmuwan data Amazon dalam menciptakan agen AI yang dapat menyelesaikan tugas spesifik, mulai dari otomasi proses internal hingga eksperimen inovatif. Pada awal peluncurannya, manajemen mendorong penggunaan intensif Kiro dengan slogan tiga baris yang menekankan: “Gunakan AI dalam pekerjaan Anda atau risikonya digantikan AI.”
Masalah Token Mahal
Dalam dunia AI, token merupakan unit data terkecil yang diproses oleh model. Setiap kali sebuah agen menjalankan perintah atau menghasilkan teks, token-token tersebut harus dihitung dan diproses oleh GPU, menghasilkan biaya yang dihitung per token. Seiring dengan meningkatnya penggunaan Kiro, Amazon menemukan bahwa leaderboard internal menjadi sarana bagi sebagian karyawan untuk menciptakan agen‑agen yang tidak produktif, semata‑mata demi menaikkan peringkat mereka. Hal ini mengakibatkan konsumsi token yang sangat tinggi, menimbulkan tagihan yang tidak terduga.
Keputusan Penghentian Leaderboard
Setelah mendapat peringatan dari tim keuangan dan laporan dari Financial Times, Amazon memutuskan untuk menonaktifkan leaderboard tersebut. Pihak perusahaan menyatakan, “The beta dashboard was not a formal or approved tool, and has since been deprecated.” Pernyataan ini menegaskan bahwa leaderboard tidak lagi menjadi bagian resmi dari kebijakan penggunaan Kiro.
Reaksi Karyawan dan Lingkungan Kerja
Keputusan ini menuai beragam reaksi di kalangan staf. Sebagian menganggapnya sebagai langkah bijak untuk menahan pemborosan, sementara yang lain merasa bahwa motivasi kompetitif sebelumnya memberi mereka cara untuk menonjolkan kemampuan di tengah budaya kerja yang menuntut adopsi AI secara agresif. Beberapa karyawan mengaku bahwa mereka “tokenmaxxing” sebagai bentuk protes atau sekadar untuk menghindari rasa takut akan redundansi pekerjaan.
Implikasi Bisnis dan Model Pembayaran AI
Penggunaan model pembayaran per token semakin umum di industri AI, menggantikan langganan flat-rate yang dulu dominan. Amazon kini harus menyesuaikan anggaran operasionalnya dengan pola biaya yang lebih fluktuatif. Kejadian ini menjadi peringatan bagi perusahaan lain yang ingin mengadopsi AI secara luas tanpa kontrol yang ketat atas konsumsi sumber daya.
Langkah Selanjutnya bagi Amazon
- Menerapkan kebijakan penggunaan token yang transparan dan terukur.
- Menawarkan pelatihan bagi karyawan tentang efisiensi penggunaan AI.
- Mengembangkan alat pemantauan biaya internal yang terintegrasi dengan platform Kiro.
- Meninjau kembali insentif kompetitif yang dapat memicu perilaku pemborosan.
Dengan menonaktifkan leaderboard, Amazon berharap dapat menurunkan beban biaya token yang tidak produktif, sambil tetap mendorong inovasi yang berkelanjutan melalui Kiro. Keputusan ini juga menandai perubahan paradigma dalam cara perusahaan besar mengelola kecerdasan buatan, menyeimbangkan antara dorongan inovasi dan tanggung jawab finansial.
Amazon bins an internal AI leaderboard for its Kiro employees, because they were burning through too many costly tokens, menjadi contoh konkret bahwa semangat adopsi AI harus diiringi dengan mekanisme kontrol yang efektif. Ke depan, perusahaan teknologi lainnya diperkirakan akan meninjau kembali kebijakan internal mereka untuk menghindari jebakan biaya serupa.
Secara keseluruhan, langkah Amazon ini mencerminkan kebutuhan industri untuk mengoptimalkan penggunaan AI tanpa mengorbankan efisiensi biaya, sekaligus menjaga semangat inovatif di antara para profesional teknologi.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan