NexumFive: Kurumsal Çok Modelli AI Sohbet Platformu

MicrocosmWorks, NexumFive'ta, her AI sağlayıcısının token maliyetlerinin yönetici fiyatlandırma konfigürasyonunda tutulan evrensel bir kredi değerine eşlendiği normalize edilmiş bir kredi sistemi uyguladı. Bir kullanıcı sohbet sırasında OpenAI, Claude, Gemini, Grok veya Perplexity arasında geçiş yaptığında, backend, model başına maliyet çarpanına göre kredi tüketimini hesaplar. Yönetici paneli, doğru kar marjı takibi için sağlayıcı başına ve model başına maliyet analitiği sunar.

MicrocosmWorks, çift RAG sistemini, hızlı tek kullanıcılı geri alım için disk destekli indekslerle sohbet başına ve GPT başına bilgiyi yerel FAISS'in yönetmesini sağlayacak şekilde tasarladı. Uzaktan Milvus destekli mikroservis ise büyük dosya koleksiyonlarında belgeler arası arama gerektiren proje ölçeğindeki iş yüklerini yönetir. Hibrit geri alım; vektör benzerliğini, BM25 anahtar kelime eşleştirmesini ve yakınlık puanlamasını birleştirirken, IndexTag kapsamlı arama her kullanıcının verisi içinde kişiselleştirmeyi sağlar.

GrouPT, MicrocosmWorks'ün tanımlanmış rollere sahip birden fazla AI modelinin bir sohbete katıldığı yapılandırılmış çoklu-AI tartışmalarının bir uygulamasıdır. Kullanıcılar münazara, beyin fırtınası veya analiz modlarını yapılandırır ve sistem, seçilen modellerden (OpenAI, Claude, Gemini, Grok, Perplexity) gelen sıralı yanıtları akışlı SSE aracılığıyla düzenler. Her model, tam konuşma bağlamını ve kendi rol talimatlarını alır, bu da aynı istem üzerinde model güçlü yönlerinin karşılaştırmalı analizini sağlar.

MicrocosmWorks, belge düzenleme için TipTap'ı, e-tablolar için Fortune Sheet'i ve bir yapıt kod düzenleyiciyi birleştirerek Projects çalışma alanını inşa etti. Tüm proje dosyaları, kaydetme anında belgeleri işleyen bir BullMQ embedding pipeline aracılığıyla otomatik olarak Milvus RAG katmanına indekslenir. Kullanıcılar bir proje bağlamında AI'ı sorguladığında, geri alma o projenin indekslenmiş dosyalarıyla sınırlıdır ve yanıtları ekibin gerçek belgelerine ve verilerine dayandırır.

MicrocosmWorks, NexumFive'ta topluluk tarafından yayınlanan GPT'ler (uzmanlaşmış talimatlar ve bilgiye sahip özel AI kişilikleri), İş Akışları (otomatik pilot yürütme ile çok adımlı otomatik süreçler) ve Yapay Nesneler (canlı önizlemeli yeniden kullanılabilir HTML/JSX bileşenleri) içeren tam bir pazar yeri sistemi yayınladı. Kullanıcılar, sistem komutlarını, FAISS aracılığıyla indekslenen ekli bilgi dosyalarını, mevcut araçları ve model tercihlerini yapılandıran kodsuz bir oluşturucu aracılığıyla özel GPT'ler oluşturur.