Teknoloji Meraklıları Haftalığı (Sayı 398): Token Maliyetleri Karşılanamıyor
Burada her hafta paylaşmaya değer teknoloji içerikleri kaydedilir, Cuma günleri yayınlanır.
Bu dergi açık kaynaktır, katkıda bulunmanız memnuniyetle karşılanır. Ayrıca 《Kimler İşe Alıyor》 hizmeti de mevcuttur, programcı iş ilanları yayınlar. İş birliği için e-posta ile iletişime geçin (yifeng.ruan@gmail.com).
Kapak Görseli
Geçen yıl açılan Zhejiang Eyaleti'nin Anji İlçesi'ndeki Anji Kültür Sanat Merkezi. Yöre bambu yetiştiriciliğiyle ünlü, çatılar bambu yaprağı şeklinde tasarlanmış. (daemin_kg@ig)
Token Maliyetleri Karşılanamıyor
Geçen hafta, OpenClaw'un kurucusu Peter Steinberger, kendi Token kullanımını paylaştı.
Bu, ne kadar Token kullandığıyla övünmek için değil, CodexBar adlı araç yazılımını tanıtmak içindi. Bu menü çubuğu aracı, Token kullanımınızı istatistikleyip karşılık gelen maliyeti hesaplayabiliyor.
Tahmin edin bakalım, ne kadar Token kullanmış?
Ekran görüntüsüne göre, bir ayda 7,6 milyon istek göndermiş ve toplam 603 milyar Token harcamış. Önceden belirlenen ücret tarifesine göre, bu Token'ların değeri 1,3 milyon dolar!
Yani, onun AI ile programlaması ortalama olarak günde 40.000 dolardan fazla harcıyor.
Elbette bu rakam gerçek bir harcama değil. Çünkü kendisi OpenAI çalışanı olduğu için şirketin Token'larını sınırsız ve ücretsiz kullanabiliyor. Dolayısıyla bu para gerçek bir gider değil.
Ancak Token kullanımı gerçek. Çoğu şirketin Token'ları dışarıdan satın alması gerekiyor. Herkes onun örneğini kullanarak hesap yapabilir: Bir programcı ayda birkaç yüz milyar hatta trilyonlarca Token harcarsa, şirketin ödemesi gereken para ne kadar olur?
Onun tek başına aylık maliyeti 1,3 milyon dolar, yani yaklaşık 9 milyon RMB'ye denk geliyor; yıllık maliyeti 100 milyon RMB'yi aşıyor! En üst düzey modellerin serbestçe kullanılması durumunda şirketin ödemesi gereken ücret işte bu.
Daha ucuz bir modele geçilirse, yurt içindeki en ucuz açık kaynak modelin fiyatı, yurt dışındaki amiral gemisi modellerin yaklaşık 1/30 ila 1/50'i kadardır; bu durumda yıllık maliyet 2 ila 3 milyon RMB olur.
Sonuç şu ki, sınırsız kullanım açılırsa, bir programcı yılda en az iki veya üç milyon RMB'lik Token maliyeti harcar. ABD'nin amiral gemisi modelleri kullanılırsa, maliyet hızla on milyonlarca hatta yüz milyonlarca RMB'ye fırlar.
Şirketlerin maliyeti düşürmek için iki yöntemi var: Birincisi, aylık paket satın almak; ancak büyük projeler için yetersiz kalır. İkincisi, kendi açık kaynak modelini kurmak, dışarıdan satın alma maliyetinden tasarruf etmek; ancak donanım maliyeti ucuz değil ve en güçlü modeller şu anda açık kaynak değil.
Tüm bunları değerlendirdiğimde, şirketlerin neredeyse kesin olarak kısıtlama getireceğini ve programcıların harici modelleri sınırsız kullanmasına izin vermeyeceğini tahmin ediyorum. Öyle olursa, devasa Token maliyetleri karşılanamaz. Programcı maaşları zaten düşük değil; buna kişi başı yılda en az birkaç milyon RMB'lik Token maliyeti eklenince, şirketin geliştirme maliyetleri patlar.
Herkes söyleyebilir: Bir şirketin programcılara harici modeller için sınırsız API çağrısı sağladığını gördünüz mü? Ben duymadım.
Aslında Token maliyetleri çok yüksek olduğu için şirketlerin AI programlamayı kıstığına dair birkaç örnek biliyorum.
Örneğin, araç çağırma devi Uber bu yılın ilk dört ayında yıllık 3,4 milyar dolarlık AI bütçesini bitirdi ve AI kullanımını kısıtlamak zorunda kaldı.
Yine örneğin, Microsoft da bütçe aşımı nedeniyle Claude Code'u bırakıp kendi barındırdığı OpenAI modelini kullanmaya başladı.
Uber ve Microsoft gibi devler bile devasa Token maliyetlerini kaldıramıyorsa, muhtemelen hiçbir şirket kaldıramaz.
Kısacası, AI programlama kulağa çok hoş gelse de, faturayı gördüğünüz anda şirket kendine gelir: AI programlama, gerçek programcılardan çok daha pahalıdır.
Peki, AI programcıların yerini alacak mı? Büyük yazılım projeleri olan şirketler için bence büyük ölçekli bir yer değiştirme olmayacak, çünkü maliyet ortada. En azından şu aşamada böyle. Gelecekte Token maliyetleri önemli ölçüde düşerse, o zaman zor.
Hata Ödülü Programının Sonu
Turso açık kaynaklı bir bulut veritabanıdır, kodu GitHub'da bulunur.
Güvenlik açığı bulanlara 1000 dolar ödül veren bir ödül programı vardı. Başlangıçta gayet iyi işliyordu; büyük dil modelleri güvenlik açığı bulmak için kullanılmaya başlandığından beri işler değişti.
Deposunun PR sayfası (harici kod gönderimleri) artık şu hale geldi.
Güvenlik açığı bildirenlerin sayısı aşırı arttı, hepsi ödül için geliyor. Sözde güvenlik açıkları genellikle kasıtlı olarak enjekte edilmiş çöp baytlar ya da yanlış yapılandırmalar; doğal olarak çalıştırılamıyorlar.
Geliştirme ekibi bitkin düştü, bu durumdan bıktı. Bazen bu PR'ları kapatınca, gönderen kişi sizinle tartışmaya girip AI tarafından üretilmiş uzun uzun yazılar ile geliştirme ekibine "Ben haksız değilim, siz yanılıyorsunuz" diyebiliyor; bu da gülünç bir durum yaratıyor.
Sonunda geliştirme ekibi, ödül programını sona erdirdiğini duyurmak zorunda kaldı; güvenlik açığı ve PR gönderimlerine artık ödül verilmeyecek.
Çöp içerik üretenlerin gönderim yapması yalnızca bir dakika sürebilir, ancak bizim bunları okumamız, anlamamız ve yanıtlamamız saatler alıyor. Üstelik bu tür içerikler neredeyse sınırsız hızda üretilebiliyor.
PR'ları filtrelemek için otomatik betikler kurulabilse de, ödül söz konusu olduğundan, AI kodu gönderme motivasyonu o kadar büyük ki, insanlar her zaman sonu gelmez bir şekilde tartışıp aynı PR'ı yeniden açıyor vb.
Bu bize şunu gösteriyor: Geleneksel hata ödül programları AI çağında büyük olasılıkla yürümez. Bundan sonra güvenlik açığı bulmanın muhtemelen bir ödülü olmayacak. Bu durumun çevrimiçi saldırıların artmasına yol açıp açmayacağını bilmiyorum.
Teknoloji Haberleri
1、Vücut Ağırlığı ve Hava Sıcaklığı
Yale Üniversitesi'nden bir araştırma ekibi, Arjantin'deki baykuş maymunlarının 25 yıl öncesine göre daha ağır olduğunu tespit etti. 2023'teki maymunların ortalama ağırlığı 1999'a göre 50 gram daha fazlaydı; bu da yaklaşık %4'lük bir artış demek.
Bilim insanları bunun sıcaklık artışıyla bağlantılı olduğunu düşünüyor. 1999'da Arjantin'de ortalama günlük sıcaklık 22,2 santigrat dereceyken, 2023'te 23,8 santigrat dereceye yükseldi.
Artan sıcaklık, maymunların vücut ısısını düzenlemek için harcadığı enerjiyi azaltıyor ve böylece kilo almak için ekstra kalori sağlıyor.
Bu teori insanlar için de geçerli görünüyor; yani küresel ısınma şişman insanların artmasına neden olabilir.
ABD merkezli biyoteknoloji şirketi Colossal, "yapay yumurta kabuğu" üretti ve şimdiye kadar 26 civciv yumurtadan çıkardı.
Dış kabuğu, destek görevi gören sağlam bir altıgen kap şeklinde bir yapı; iç duvarı ise oksijenin kolayca geçmesine izin verirken nemi koruyabilen yarı geçirgen bir zar malzemesi.
Araştırmacılar, tavuk embriyolarını "yapay yumurta kabuğuna" yerleştirip kuluçka makinesinde başarıyla civciv çıkardı.
Yukarıdaki görselde, yumurta kabuğunun üst kısmı şeffaf; içerideki durum gözlemlenebiliyor.
Colossal şirketinin bu cihazı üretme amacı, nesli tükenmiş dodo kuşunu diriltmek. Aksi takdirde, dodo klon embriyosu yapılsa bile, yine de başka hayvanların (örneğin devekuşu) vücudunda taşınması gerekecekti.
Bulgaristan'ın başkenti Sofya'da, yolun ortasında küçük bir çukur var ve belediye uzun süredir onarmıyor.
İki sanatçı bu durumdan rahatsız olarak küçük çukurun üzerine kızgın bir surat ifadesi çizdi.
Parlak desen, sürücülerin ve yayaların çukuru daha kolay fark etmesini sağlayarak kazaları azalttı. Aynı zamanda halkın ilgisini çekti, haber medyası olayı haber yaptı ve çukur kısa sürede onarıldı.
Bu olay bize gösteriyor ki, memnuniyetsizlik yine de dile getirilmeli; bu, çözümü hızlandırabilir ve sanatsal bir biçimde ifade edilirse etkisi daha iyi olur, insanlar tarafından kabul edilmesi daha kolay olur.
Makaleler
1、Bellek Fiyatlarının Artış Nedenleri (İngilizce)
Bellek üreticileri üç tür bellek üretir: DDR (masaüstü bilgisayarlar için bellek), LPDDR (telefonlar için düşük güçlü bellek), HBM (AI sunucuları için yüksek bant genişlikli bellek).
AI şirketlerinin HBM talebinin patlaması ve yüksek fiyatlar teklif etmesi nedeniyle, bellek üreticileri üretim kapasitelerini HBM'ye kaydırdı, DDR ve LPDDR üretimini azalttı. Bu da tüketici elektroniği cihazlarında bellek kıtlığına ve fiyat artışına yol açtı.
2、Reticulum'u Araştırmaya Başlıyorum (İngilizce)
Reticulum, kendi ağını kuran bir projedir. Çeşitli fiziksel ağların (WiFi, kablolu ağ, radyo, LoRa vb.) üzerine sanal ağlar kurabilir. Bu makale bir giriş niteliğindedir.
3、MacBook'unuzu Isıtın (İngilizce)
Soğuk bir makale. Mac sisteminde CPU'ya yük bindiren bir stress komutu vardır. Bu makale, kışın soğuk olan MacBook'un metal kasasını ısıtmak için bu komutun kullanılabileceğini öne sürüyor.
4、Boolean Mantığına Neden Karşıyım (İngilizce)
Felsefi düşünce ağırlıklı bir makale. Boolean mantığı yalnızca iki değere (doğru ve yanlış) sahiptir. Yazar, bunun siyah-beyaz ikili düşünceye yol açtığını düşünüyor. Gerçek dünya Boolean mantığına uymaz, belirsizlik ve tekillik dışılıkla doludur.
5、Merkezi Limit Teoremi Neden Her Yerde? (İngilizce)
Merkezi limit teoreminin tarihini ve anlamını tanıtan popüler bir bilim makalesi. Bu teorem, örneklem ortalamalarının dağılım kuralını keşfettiği için son derece önemlidir.
Örneklem ortalamaları normal dağılıma uyar, ancak iki önemli nokta vardır: birincisi, her örneklem birbirinden bağımsız olmalıdır; ikincisi, bazen aykırı değerler ortalamalardan daha önemlidir.
Araçlar
Açık kaynaklı, docx dosyaları için web tabanlı bir düzenleyici, ne görürsen onu alırsın (WYSIWYG).
2、DvnIP
Dinamik IP hizmeti, bireysel kullanıcılar için ücretsiz.
3、Graphite
Vektör çizim için bir web uygulaması, kodu açık kaynak.
Yerel git depolarını tarayan ve GitHub tarzı kişisel katkı ısı haritası oluşturan bir komut satırı aracı.
5、NyaTerm
Çapraz platform masaüstü uygulaması. SSH, terminal oturumları, uzak dosyalar, kimlik doğrulama bilgileri, port yönlendirme ve yapılandırma yedeklemelerini aynı çalışma alanında birleştirir. (@nyakang tarafından gönderildi)
Bir komut satırı aracı, docker imajının içindeki her katmanın dosya listesini gösterir. (@vicanso tarafından gönderildi)
Beyaz tahta kaydı için web uygulaması. Tarayıcıda doğrudan çizim, sunum ve beyaz tahta tarzı içerik kaydı yapılabilir. (@Hao4Wang tarafından gönderildi)
Açık kaynaklı İngilizce dinleme ve konuşma pratiği uygulaması. (@echo-loop tarafından gönderildi)
9、Vue TUI
Vue tabanlı terminal bileşen kütüphanesi, ajan geliştirmek için kullanılabilir. (@Simon-He95 tarafından gönderildi)
10、witr
Komut satırı aracı, her bir işlemin hangi komuta karşılık geldiğini gösterir. Komut adı veya port numarası ile sorgulanabilir.
Yapay Zeka ile İlgili
Özellikle DeepSeek için tasarlanmış terminal AI programlama ajanı. Önbellek mekanizmasından tam olarak yararlanarak maliyeti büyük ölçüde düşürebilir. Yalnızca DeepSeek'in ücretli API'sini destekler.
2、FunASR
Alibaba Tongyi Laboratuvarı tarafından açık kaynak olarak yayınlanan endüstriyel düzeyde konuşma tanıma araç seti. Yakın zamanda bir masaüstü sesli giriş yöntemi aracı çıkardı. (@LauraGPT tarafından gönderildi)
Ayrıca buna dayalı iki türev araç daha var.
- FunClip: Akıllı video kırpma aracı. Anahtar kelime veya cümle girildiğinde, videoda ilgili bölümü otomatik olarak bulur ve tek tıkla kırpıp dışa aktarır. (@LauraGPT tarafından gönderildi)
- SenseVoice: Konuşma anlama aracı. Konuşma, dil, duygu ve ses olaylarını tanıyabilir. (@LauraGPT tarafından gönderildi)
Tek duraktan yerel AI programlama ajan yönetim paneli. Codex, Claude Code, Gemini CLI, CodeBuddy, OpenClaw'ı tek bir yerden yönetir. (@ymkiux tarafından gönderildi)
Kaynaklar
Ünlü ders kitabı "Calculus Made Easy"nin resmi olmayan Çince çevirisi. Okuması kolay bir kalkülüse giriş kitabıdır. Çevrimiçi okunabilir. (@KeyAI tarafından gönderildi)
Shanxi Eyaleti, Xi İlçesi'ndeki Xiaoxitian'ın web tabanlı 3D panoramik rehberi.
3、C Dili Testi (İngilizce)
Bir dizi C dili sözdizimi sorusu.
Görseller
Almanya'da, çeşitli cep hesap makinelerini toplamaya adanmış çevrimiçi bir müze var; içinde bazı sıra dışı elektronik hesap makineleri yer alıyor.
Seçme Yazı
Davranışsal ekonomist Dan Ariely bir gün The Economist'in resmi sitesinde gezinirken.
Abonelik sayfasında üç seçenek gördü:
A. Elektronik sürüm — 59 dolar. B. Basılı sürüm — 125 dolar. C. Basılı sürüm + elektronik sürüm — 125 dolar.
Donup kaldı.
B ve C'nin fiyatı birebir aynı. Biri yalnızca basılı sürüm veriyor, diğeri basılı sürüm artı elektronik sürümün tamamını veriyor. Kim B'yi seçer ki?
Aptal bile seçmez. Ama Ariely gülmedi, bunun dahice bir tasarım olduğunu hemen fark etti.
Bu üç seçeneği alıp MIT'deki bir sınıfa girdi ve 100 öğrenciye bu üç seçenek arasından seçim yaptırdığı bir deney yaptı.
Sonuç: Öğrencilerin %16'sı A'yı, %0'ı B'yi, %84'ü C'yi seçti. Toplam abonelik geliri: 11.444 dolar.
Beklendiği gibi hiç kimse B'yi seçmedi.
Sonra Ariely küçük bir şey yaptı: B'yi sildi, yalnızca A ve C'yi bıraktı.
Mantıken, hiç kimsenin seçmediği bir şeyi silmek sonuçları etkilememeli, değil mi?
Sonuçlar geldi: %68 A'yı, %32 C'yi seçti. Toplam abonelik geliri 8.012 dolara düştü.
Seçenek B'nin rolü işte bu. Onu hiç kimse seçmedi, kendisinden tek bir kopya bile satılmadı, ama gizlice yanındaki en pahalı C paketinin %52 daha fazla satmasına yardımcı oldu.
Sırf "var olması" dergiye 3.432 dolar daha fazla kazandırdı. Bu, davranışsal ekonomideki ünlü "tuzak etkisi"dir.
İlke çok basit: İnsanlar bir şeyin "mutlak değerini" yargılamada iyi değildir, ancak "göreli karşılaştırma" yapmada son derece iyidir.
Yalnızca 59 dolar ve 125 dolar gibi iki seçenek olduğunda beyniniz "ucuz vs pahalı"yı karşılaştırır ve çoğu kişi ucuz olanı seçer.
Ama "125 dolara yalnızca basılı sürüm" yemi ortaya çıktığında beyniniz artık A ile C'yi karşılaştırmaz, B ile C'yi karşılaştırmaya başlar.
Aynı fiyata C'de bir de elektronik sürüm var. Tanrım, bu bedavadan değil mi! Böylece gönül rahatlığıyla C'yi seçersiniz.
Az önce fazladan 66 dolar harcadığınızın farkında bile olmadan — belki de hayatınız boyunca hiç açmayacağınız bir basılı dergi satın aldınız.
Bu taktik bugün her yerde. Kahve dükkanındaki orta boy fiyatlandırması yalnızca büyük boyun "daha hesaplı" olduğunu hissettirmek içindir. Video sitesinin aylık üyeliği, yıllık üyeliği "almazsan kaybedersin" hissettirecek kadar pahalıdır.
Telefon lansmanlarında her zaman bir "yüksek fiyatlı düşük donanımlı" model vardır; tek görevi yanındaki amiral gemisi modelinin "fiyat/performansı yüksek" görünmesini sağlamaktır.
Kendinizi kârlı çıktığınızı düşündüğünüzde, büyük olasılıkla birisi özenle bir yem yerleştirmiştir ve siz gönüllü olarak daha pahalı olan kapıdan içeri girmişsinizdir.
Hiç kimsenin seçmediği o seçenek, asıl başroldeki olandır.
Sözler
1.
Birçok insan yapay zekânın dünyayı değiştirme potansiyelini göremiyor çünkü her şeyin algoritma olduğunu anlamıyorlar.
Daha spesifik olarak, toplumun ve şirketlerin yalnızca bir dizi algoritmanın birleşiminden ibaret olduğunun farkında değiller.
-- Şirketler Yalnızca Bir Algoritma Grafiğidir
2.
"Yazılım paketi zehirlenmesi"yle başa çıkmak için günümüzdeki yaygın uygulama, yeni yayınlanan yazılım paketleri için bir bekleme süresi belirlemek; normal kullanıcıların bu paketi ancak "bekleme süresi" dolduktan sonra yüklemesi gerekiyor.
Bu mekanizma tedarik zinciri saldırılarına karşı etkili bir şekilde koruma sağlayabilir, ancak zor bir sorunu vardır: Başkalarının bu paketi önce yüklemesine dayanır. Yayınlanan her yeni paketi ilk anda deneyecek bu insanları nereden bulacaksınız?
-- Yazılım Paketleri Aşamalı Olarak Yayınlanmalı
3.
Yapay zekâ birebir özelleştirilmiş eğitim sunabilir, bu daha etkilidir ve üniversiteler birçok kişi için değersiz hâle gelecektir.
-- Sam Altman, OpenAI CEO'su
4.
Hiçbir satır kod yazmamış teknik olmayan orta düzey yöneticiler artık başarıya giden en büyük engelin ortadan kalktığını hissediyor.
Artık o can sıkıcı programcılarla uğraşmak zorunda değiller; programcı olmadan web sitesi stillerini ve kullanıcı deneyimini değiştirebilir, bazı özellikleri kendileri gerçekleştirebilirler. Üstelik yapay zekâ şikâyet etmez, sendika kurmaz, protesto etmez; yalnızca her emre itaat eder.
-- Yapay Zekâ Bizi Nereye Götürecek?
5.
PHP'yi sevmemin bir nedeni, değişkenlerin dolar işaretiyle ($) tanımlanması; bu size onu ne için kullandığınızı hatırlatır.
Geçmiş Yıllardan
GitHub Issues (Neredeyse) En İyi Not Uygulaması (#351)
OpenAI'nin Kütüphane Masası (#301)
Yerli Tek Kartlı Bilgisayarlar Tavsiye Edilmeye Değer (#251)
Çin'in Yarı İletken Bakanlığı Kurması Gerekiyor (#201)
(Son)