Aspen Güvenlik Forumu sırasında İnançlı Yapay Zeka Koalisyonu (CoSAI) ismiyle yeni bir sanayi kuruluşu duyuruldu. CoSAI’nin kurucu Premier Sponsorları ortasında Google, IBM, Intel, Microsoft, NVIDIA ve PayPal bulunuyor. Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI ve Wiz de kurucu sponsorlar olarak belirtiliyor.
Bu açık kaynak teşebbüsü, açık kaynak metodolojileri, standartlaştırılmış taslaklar ve araçlar aracılığıyla rehberlik sunmayı ve geliştiricilerin Tasarım Yoluyla İnançlı Yapay Zeka sistemleri oluşturmasını sağlamayı amaçlıyor. CoSAI bilhassa yapay zeka sistemlerinin inançlı geliştirilmesine, entegrasyonuna, konuşlandırılmasına ve işletilmesine odaklanacak ve model hırsızlığı, data zehirlenmesi, anında enjeksiyon, ölçekli berbata kullanım ve çıkarım hücumları üzere riskleri azaltacak.
CoSAI, öbür açık kaynak topluluk projelerine benzeri biçimde genel teknik gündemini ilerletmek ve yönetmek için bir Proje Yönetim Kurulu ve çeşitli iş akışlarını denetlemek için akademi ve sanayiden yapay zeka uzmanlarından oluşan bir Teknik Yönlendirme Komitesi oluşturacak.
Bildirilene nazaran CoSAI’nin birinci çalışması “yapay zeka sistemleri için yazılım tedarik zinciri güvenliği”, “savunucuları değişen siber güvenlik ortamına hazırlamak” ve “yapay zeka güvenlik yönetimi” başlıklarına odaklanacak.
Google CoSAI Yönetim Kurulu eş lideri David LaBianca, CoSAI’nin oluşumuna ait yaptığı açıklamada bu kuruluşun, “yapay zekanın güvenli entegrasyonu ve dağıtımı için gerekli olan bilgi ve ilerlemelerin demokratikleştirilmesi gerekliliğini” temel aldığını ve “OASIS Open’ın yardımıyla bu çalışmayı ve önde gelen şirketler, uzmanlar ve akademisyenler arasındaki iş birliğini sürdürmeyi” heyecanla beklediklerini söyledi.
