Fireworks AI, 2022 yılında Kaliforniya'nın Redwood City şehrinde kurulmuş olan bir yapay zekâ platformudur. Şirket, üretken yapay zekâ (GenAI) modellerinin düşük gecikme süresiyle, yüksek verimlilikte ve maliyet-etkin şekilde çalıştırılmasını ve özelleştirilmesini sağlamayı amaçlamaktadır. Fireworks AI, özellikle açık kaynak büyük dil modelleri (LLM) ve çok modlu modellerin üretim düzeyinde dağıtımına olanak tanıyan bulut tabanlı bir altyapı sunar.

Kuruluş

Fireworks AI, Meta'nın PyTorch geliştirici ekibinde görev almış mühendisler tarafından kurulmuştur. Şirketin kurucu CEO’su Lin Qiao, daha önce Meta’da PyTorch platformunun liderliğini yapmıştır. Kurucu kadroda ayrıca Dmytro Dzhulgakov (CTO), Chenyu Zhao, James Reed, Benny Chen, Pawel Garbacki ve Dmytro Ivchenko gibi PyTorch, Google Vertex AI ve Meta Ads altyapısında görev almış mühendisler yer almaktadır.

Teknolojik Altyapı ve Ürünler

Fireworks AI, temel olarak geliştiricilerin üretken yapay zekâ modellerini özelleştirerek çalıştırabileceği, API tabanlı bir platform sunar. Platform, 100’den fazla açık kaynaklı modelin sunucu gerektirmeden (serverless) ya da isteğe bağlı GPU’lar üzerinde dağıtımını destekler. Bu modeller arasında LLaMA 3, Qwen3, Mixtral ve Stable Diffusion gibi metin, görüntü, ses ve çok modlu modeller yer almaktadır. Platformda “compound AI” adı verilen çok bileşenli sistemler desteklenmektedir. Bu sistemlerde görevler tek bir model yerine birden fazla küçük model ve dış veri kaynakları aracılığıyla çözülür.

FireFunction ve Compound AI Yaklaşımı

Fireworks AI, “compound AI” (bileşik yapay zekâ) sistemleri geliştirmeye odaklanmıştır. Bu yaklaşımda farklı görevler, her biri belirli amaçlara yönelik olarak optimize edilmiş küçük modeller, araçlar ve veri kaynakları aracılığıyla çözümlenir. FireFunction V2, bu yapının merkezinde yer alarak işlev çağırma (function calling), dış veri kaynaklarıyla etkileşim ve çok modlu görevlerin orkestrasyonu gibi özellikler sunar.

Altyapı Ortaklıkları ve GPU Kullanımı

Fireworks AI, ultra düşük gecikmeli kullanım senaryoları için Amazon Web Services (AWS) altyapısını tercih etmektedir. Şirket, özellikle NVIDIA A100 ve H100 Tensor Core GPU’larını içeren Amazon EC2 P4 ve P5 örnekleri ile çalışmaktadır. Bu donanım sayesinde önceki çözümlere kıyasla 4 kata kadar daha düşük gecikme süresi ve 20 kata kadar daha yüksek performans sağlanabilmektedir. Şirket ayrıca Amazon EKS (Elastic Kubernetes Service) ve Amazon S3 (Simple Storage Service) gibi AWS servislerini de kullanmaktadır.

Müşterilere Sunulan Hizmetler

Fireworks AI, geliştiricilere üretken yapay zekâ uygulamalarını hem pay-as-you-go (kullandıkça öde) modelinde hem de kurumsal seviyede yapılandırılmış çözümler olarak sunar. Platform, SOC 2 Type II ve HIPAA gibi güvenlik ve gizlilik uyumluluklarını sağlar. Ayrıca kullanıcı girdileri ve çıktıları sistemde kaydedilmemekte, veri gizliliğine önem verilmektedir.

Fiyatlandırma

Fireworks AI'nin fiyatlandırma yapısı sunucusuz model çalıştırma, ince ayar (fine-tuning), görsel üretim ve ses transkripsiyonu gibi hizmetler için belirli token ya da saniye bazında ücretlendirme üzerinden çalışır. Ayrıca NVIDIA H100, A100, AMD MI300X gibi GPU’lar saatlik kullanım ücretleriyle erişilebilir durumdadır. LoRA (Low-Rank Adaptation) tabanlı modellerin çalıştırılması, temel model fiyatlandırmasına dahil edilmiştir.

Yatırımlar ve Ortaklıklar

Fireworks AI, Sequoia Capital liderliğinde 2024 yılında 52 milyon dolar değerinde Seri B yatırım almış ve toplam yatırım tutarını 77 milyon dolara çıkarmıştır. Şirketin yatırımcıları arasında Benchmark, Databricks Ventures, NVIDIA, AMD, MongoDB gibi büyük teknoloji şirketleri ve yöneticileri yer almaktadır. Oracle Cloud Infrastructure (OCI), Google Cloud Platform ve MongoDB gibi kuruluşlarla altyapı ve veri ortaklıkları mevcuttur.

Kullanım Alanları ve Entegrasyonlar

Fireworks AI, kaynak kod tamamlama (Sourcegraph), e-posta tabanlı içerik sorgulama (Superhuman) gibi alanlarda üretken yapay zekâ destekli çözümler sunmaktadır. MongoDB ile birlikte geliştirilen Retrieval-Augmented Generation (RAG) sistemleri sayesinde dış veri kaynakları ile bağlam zenginleştirme sağlanmaktadır.

Gelecek Perspektifi

Fireworks AI, compound AI sistemleri alanındaki Ar-Ge çalışmalarına odaklanarak, çok modlu modellerin yaygınlaştırılmasını ve özelleştirilebilir yapay zekâ bileşenlerinin entegrasyonunu hedeflemektedir. Şirket, model verimliliği, düşük gecikme süresi ve özelleştirilebilirlik gibi alanlarda üretim düzeyindeki çözümleri ölçeklendirmeyi sürdürmektedir. Geliştirici topluluğu için açık kaynak modelleri erişilebilir kılma hedefi de şirketin öncelikleri arasında yer almaktadır.