API aracılığıyla artık OpenAI AI modelleri eklentilere erişebiliyor. GPT-3.5 daha büyük bir bağlam penceresi alıyor.
OpenAI, gpt-4-0613 ve gpt-3.5-turbo-0613 modelleri için API'ye "fonksiyonlar" ekliyor. Bu işlev çağrıları, API'ye bağlı uygulamaların GPT model yeteneklerini daha hassas bir şekilde yönlendirmelerine izin verir, örneğin harici araçları kontrol etmek gibi.
Her iki model de, kullanıcı girdisine dayanarak ne zaman bir işlevin çağrılması gerektiğini tanımak için geliştirildi. Etkinleştirilmiş eklentilerle benzer şekilde "şehirde hava nasıl?" ya da "bir e-posta gönder" gibi bir girdi otomatik olarak uygun bir işlev çağrısına dönüştürülür, örneğin "send_email(to: string, body: string)".
OpenAI, güvenilmeyen bir eklentinin çıkışının dil modeli tarafından istenmeyen eylemlere neden olabileceği mevcut güvenlik açıklarına dikkat çekiyor. Geliştiriciler, yalnızca güvenilir araçları kullanarak ve örneğin bir e-posta göndermeden önce kullanıcı onayı isteyerek uygulamalarını koruyabilirler.
GPT 3.5 Daha Büyük Bir Bağlam Penceresi Alıyor
Başka bir önemli güncelleme, gpt-3.5-turbo-061-16k modelidir, bu model 16k ile geleneksel GPT-3.5'in ChatGPT'deki dört katı bağlamı yönetebilir, yani dört kat daha fazla cümle ve kelime karakteri (simge) ele alabilir. Bu, kullanıcıların sorgularında birden çok metne daha fazla referans yapmalarına olanak tanır, örneğin daha büyük bir belgeyi aynı anda analiz etmek veya belgenin farklı bölümlerinden bilgi çıkarmak için.
Ayrıca, OpenAI, ada-002 modeliyle gömülere %75 indirim yaparak 1000 simge başına $0,0001 ve GPT 3.5-turbo için giriş üzerinden 1000 simge başına $0,0015 ve çıkış üzerinden 1000 simge başına $0,002 olacak şekilde fiyatları %25 düşürüyor. OpenAI'ye göre, bu bir ABD doları için yaklaşık 700 sayfa metin oluşturmanın eşdeğeridir. 16K'lı yeni 3.5 modeli ise 1K giriş simgesi başına $0,003 ve 1K çıkış simgesi başına $0,004 maliyetlidir.
Bu fiyat indirimleri, OpenAI'nin yakın gelecekte daha verimli ve daha ucuz GPT-4 sürümleri, belki de GPT-4.5'ı tanıtacağına işaret edebilir. GPT-3'ten GPT-3.5'e geçiş sırasında da GPT-3 için bir fiyat indirimi vardı.
Stabil model adlarını (gpt-3.5-turbo, gpt-4 ve gpt-4-32k) kullanan uygulamalar 27 Haziran'da yukarıda listelenen yeni modellere otomatik olarak yükseltilecek. Kullanım durumlarınızı nasıl etkileyeceğini test etmek için OpenAI Evals kütüphanesini kontrol edebilirsiniz.
