Kasım ayında hayatımıza giren ve hem kendi başında hem de birçok hizmete eklenerek hayatımızda kalmaya devam eden ChatGPT, kaynak tüketimi konusunda çok da başarılı değil gibi görünüyor. Yapılan bir araştırmaya göre ChatGPT, özellikle su tüketimi konusunda soru işaretleri oluşturuyor. ChatGPT’nin bitmeye susuzluğu
Kaliforniya Üniversitesi’nden araştırmacı Shaolei Ren’e göre ChatGPT ve benzeri LLM’ler, kullanıcıların sorduğu her 20 ila 50 istem veya soru için 500 mililitreye kadar su kullanıyor. Arxiv’de yayınlanan bir makalede araştırmacı, 500 ml’nin çok fazla görünmeyebileceğini, ancak ChatGPT’nin küresel olarak kullanıcılar tarafından bir arada kullanılmasıyla su kullanımının muazzam olduğunu belirtti. Ağustos ayında ChatGPT’yi ziyaret eden tekil kişi sayısı 180,5 milyon kişiydi. Toplam ziyaretçi sayısı ise 1,43 milyar. Öte yandan GPT-3 modelinin eğitiminde kullanılan su miktarınınsa 700.000 litre olduğu önceki aylarda raporlanmıştı.
Bu araştırmanın doğrulaması da aslında Microsoft tarafından sağlanıyor (Microsoft, ChatGPT yaratıcısı OpenAI’ın en büyük yatırımcısı konumunda.) Microsoft’un 2022 çevre raporundaki su artışının çoğunun yapay zekadan kaynaklandığı belirtiliyor. Microsoft’un su tüketimi 2022’de yüzde 34 artarak 6,4 milyar litreye yükseldi. Microsoft ise bu sorunu kabul ettiğini ve enerji kullanımı ile karbon ayak izini ölçmenin yollarını araştırdığını söyledi. Yazılım devi dahili olarak da ChatGPT (GPT-4, 3,5 vb.) gibi büyük dil modellerini (LLM) daha az enerji yoğun hale getirmek için çalışıyor.
Microsoft, 2030 yılına kadar karbon negatif, su pozitif ve sıfır atık hedeflerine ulaşmayı planlıyor. Bununla birlikte OpenAI da su kullanımı sorununu da kabul etti ve LLM’leri daha enerji verimli hale getirmenin yollarını aradığını söyledi. LLM’lere güç sağlamak için kullanılan su miktarı oldukça şaşırtıcı olsa da, bu modern LLM’lerin o kadar da eski olmadığını, dolayısıyla zaman içinde su ve enerji kullanımını azaltmak için yöntemler geliştirilebileceğini belirtmek gerek.