Black Shadow

Tag: Yapay Zekâ

  • 67 bin hastada denendi: Yapay zeka kalp hastalığını saniyeler içinde yakaladı

    67 bin hastada denendi: Yapay zeka kalp hastalığını saniyeler içinde yakaladı

    Bilim insanları, rutin elektrokardiyografi (EKG) sonuçlarını analiz ederek kalp yetmezliği ve kalp kapağı hastalıklarının belirtilerini iki saniyeden kısa sürede saptayabilen bir yapay zeka sistemi geliştirdi.

    Milyonlarca hastanın verileriyle eğitilen sistem, EKG kayıtlarında insan gözünün genellikle fark edemediği ayrıntıları analiz ediyor.

    Kalbin elektriksel aktivitesini, hızını ve ritmini ölçen EKG yaklaşık bir asırdır kalp krizi ve ritim bozukluklarının teşhisinde kullanılıyor. Ancak kalp yetmezliği veya kalp kapağı hastalıklarının kesin değerlendirilmesi için genellikle ekokardiyografi olarak bilinen kalp ultrasonuna ihtiyaç duyuluyor.

    Yeni yapay zeka sisteminin, bu hastalıklar açısından yüksek risk taşıyan kişilerin daha erken belirlenmesine yardımcı olabileceği belirtiliyor.

    Teknolojiye ilişkin sonuçlar, Münih’te düzenlenen Avrupa Kardiyoloji Derneği’nin yıllık kongresinde açıklandı.

    ABD’de 67 bin hastanın dahil edildiği çalışmada sistem, kalp yetmezliği bulunan kişilerin yüzde 81’ine, kalp kapağı hastalığı bulunanların ise yüzde 90’ına kadarını doğru şekilde belirleyebildi.

    Araştırmayı finanse eden British Heart Foundation’ın klinik direktörü ve kardiyolog Dr. Sonya Babu-Narayan, yapay zekanın EKG sonucunu “göz açıp kapayıncaya kadar” değerlendirebilmesinin heyecan verici olduğunu söyledi.

    Babu-Narayan, teknolojinin bütün kalp hastalarını tespit edemeyeceğini ancak yüksek risk taşıyan kişilerin daha hızlı ileri tetkiklere yönlendirilmesini sağlayabileceğini belirtti.

    Araştırmacılar, sistemin kalp yetmezliği veya kalp kapağı hastalığını kesin olarak teşhis etmek ya da dışlamak için tek başına kullanılamayacağına dikkat çekiyor.

    Bunun yerine yapay zeka, hastanın söz konusu hastalıklara sahip olma ihtimalinin yüksek olduğunu gösterebiliyor. Bu kişiler standart bekleme listelerinde aylarca beklemek yerine daha hızlı şekilde ekokardiyografiye yönlendirilebilecek.

    Imperial College London Kardiyoloji Profesörü Fu Siong Ng, hastaların doktorlarının yönlendirmesinden sonra kalp ultrasonu için çoğu zaman aylarca beklemek zorunda kaldığını belirterek, teknolojinin en yüksek risk grubundaki hastaların önceliklendirilmesine yardımcı olabileceğini söyledi.

    Ng ayrıca sistemin başka nedenlerle EKG çektiren ve henüz kalp hastalığından şüphelenilmeyen kişilerde de hastalık belirtilerini tesadüfen ortaya çıkarabileceğini ifade etti.

    Araştırmaya liderlik eden Dr. Ahmed El-Medany ise sistemi “insanüstü yapay zeka” olarak nitelendirdi. Araştırmacıların sonraki hedeflerinden biri, sağlık çalışanlarının kullanabileceği yapay zeka destekli taşınabilir EKG cihazları geliştirmek.

    Kongrede ayrıca Tokyo Üniversitesi ve Tokyo Bilim Enstitüsü araştırmacılarının geliştirdiği başka bir yapay zeka sistemi de tanıtıldı. Sistem, beş saniyelik yüz videolarını analiz ederek yüksek tansiyon ve tip 2 diyabet riskini belirlemeyi amaçlıyor.

  • Claude Code’da tehlikeli senaryo: Sadece bu siteyi özetle demek yetiyor

    Claude Code’da tehlikeli senaryo: Sadece bu siteyi özetle demek yetiyor

    Bir web sitesini yalnızca özetlemek isteyen bir kullanıcı, yapay zeka destekli bir kodlama aracının beklenmedik şekilde zararlı kod çalıştırmasına neden olabilir. Anthropic’in Opus 5 altyapısıyla çalışan Claude Code üzerinde tespit edilen saldırı yöntemi, yapay zeka aracılarının birbirinden bağımsız görünen işlemleri bir araya getirerek nasıl ciddi güvenlik riskleri oluşturabileceğini ortaya koyuyor.

    Güvenlik araştırmacısı Johann Rehberger tarafından ortaya çıkarılan yöntemin, ağustos ayının ortasından itibaren varsayılan seçenek haline gelen “Otomatik Mod” ile yapılan testlerde yüzde 80’e varan başarı oranına ulaştığı belirtiliyor. Senaryoda kullanıcı, not defteri kayıtlarından oluşan bir arşiv gibi görünen zararlı bir internet sitesinin özetlenmesini istiyor. Claude Code’un yerleşik WebFetch aracı sayfayı işlerken geçersiz medya türü hatası veriyor. Bunun ardından model, kullanıcıdan yeni bir komut gelmesini beklemek yerine içeriği almak için arka planda Bash aracını kullanarak indirme işlemi gerçekleştiriyor.

    İndirilen arşivin içinde katalog bilgileri, çeşitli metin dosyaları ve macOS kütüphanelerinin yanında zararlı bir Python dosyası da bulunuyor. Model, güvenlik kuralları nedeniyle arşivdeki harici çalıştırılabilir dosyayı doğrudan çalıştırmayı reddediyor. Ancak burada farklı bir yol seçiyor ve gerekli işlemi gerçekleştirmek için kendi kod çözücüsünü oluşturuyor.

    Asıl problem de bu noktada ortaya çıkıyor. Yazılan kod çözücü standart kütüphaneleri kullanırken, arşivin içine yerleştirilmiş ve sistemdeki resmi bir modülle aynı adı taşıyan zararlı Python dosyası devreye giriyor. Böylece yapay zeka, doğrudan çalıştırmayı reddettiği zararlı kodun dolaylı biçimde çalışmasına yol açıyor.

    Sistem üzerinde daha ileri işlemler mümkün

    Testlerde güvenlik kontrollerini aşan kodların uzaktan komut çalıştırabildiği görüldü. Bununla da sınırlı kalmayan saldırı, bilgisayarda yeni ve bağımsız bir yapay zeka sürecinin başlatılmasına, sistem üzerinde keşif yapılmasına ve yerel dosyalara erişilmesine kadar ilerleyebiliyor.

    Anthropic ise güvenlik araştırmasına verdiği yanıtta, söz konusu davranışın sistemin tasarlandığı biçimde çalıştığını belirtti. Şirket, Otomatik Mod’un bir güvenlik garantisi olmadığını, temel olarak kullanım kolaylığı sağlamak amacı taşıdığını ifade ediyor.

    Araştırmacıların dikkat çektiği temel nokta ise tek bir adımın değil, birbiri ardına gelen masum görünen işlemlerin oluşturduğu zincirin risk yaratması. Yapay zeka kodlama araçlarının her adımı ayrı ayrı güvenli kabul etmesi, bu adımların birlikte zararlı bir sonuca ulaşmasını engellemeyebiliyor. Bu nedenle uzmanlar, kodlama amacıyla kullanılan yapay zeka ajanlarının doğrudan ana sistem üzerinde çalıştırılmaması ve mümkün olduğunca korumalı sanal alanlarda izole edilmesi gerektiğini vurguluyor.

  • Biyolojik silah formülleri, sıradan ev bilgisayarlarına kadar ulaştı

    Biyolojik silah formülleri, sıradan ev bilgisayarlarına kadar ulaştı

    Modern uluslararası güvenlik dengeleri, yapay zeka sistemlerindeki güvenlik protokollerinin aşılmasıyla yeni bir sınavla karşı karşıya. Crimson Flare isimli araştırma grubu tarafından hazırlanan son rapor, piyasadaki popüler yapay zeka modellerine eklenen güvenlik bariyerlerinin kolayca devre dışı kaldığını kanıtladı.

    Kötü niyetli kişilerin kitle imha silahı üretmek adına aradığı teknik detaylara bu kanaldan erişebildiği saptanmış durumda. Temel düzeyde fen bilgisi olan herhangi bir bireyin dahi şarbon gibi ölümcül biyolojik ve kimyasal unsurları elde etme imkanına kavuşması, ulusal güvenlik birimlerinde alarm zillerinin çalmasına yol açıyor.

    Güvenlik filtrelerinin aşılması ve takip edilemeyen cihazlar

    Teknik analizlerde “ablitrasyon” olarak adlandırılan yöntem, yapay zeka modellerindeki emniyet kilitlerini dakikalar seviyesinde tümüyle kaldırıyor. Standart şartlarda bomba yapımı veya tehlikeli madde taleplerine ret cevabı veren sistemler, uygulanan bu müdahaleden sonra sınırsız bir bilgi kaynağı haline geliyor. İnternette açık kaynaklı paylaşılan büyük dil modelleri, kullanıcıların kendi bilgisayarlarında internete ihtiyaç duymadan çalışabildiği için takip mekanizmalarını boşa çıkarıyor. Hatta mevcut teknolojik altyapı sayesinde evlerin yüzde 87’sindeki donanımlar bu tip gelişmiş yapay zeka yazılımlarını çalıştırmaya yetiyor.

    Sistemlerdeki bariyerler kalkınca patlayıcı, zehirli patojen veya kimyasal içerik üretimine ilişkin adım adım talimatlara ulaşmak son derece kolay. İngiltere merkezli toksikoloji ve adli bilişim uzmanları, yapay zekanın tehlikeli madde imalatındaki teknik zorlukları ortadan kaldırdığına vurgu yaptı. Sistemlerin adeta bir laboratuvar reçetesi titizliğiyle veri sunması tehlikeyi büyüten bir durum. Çevrim dışı kullanım imkanının getirdiği gizlilik ise güvenlik güçlerinin şüpheli hareketleri izleme kabiliyetini sıfırlayarak küresel boyutta ciddi bir tehdit ortamı doğuruyor.

  • Dünyada bir ilk. Yapay zeka beyin ameliyatına katıldı

    Dünyada bir ilk. Yapay zeka beyin ameliyatına katıldı

    Tıp dünyasında yapay zekanın kullanımında yeni bir dönüm noktasına ulaşıldı. İngiltere’de iki çocuk babası 48 yaşındaki Rhys Hibbert, ameliyat sırasında gerçek zamanlı yapay zeka desteğinin kullanıldığı beyin cerrahisi operasyonunu geçiren ilk hasta oldu.

    University College London Hospital’da gerçekleştirilen operasyonda, Hibbert’in hipofiz bezinde bulunan tümör başarıyla çıkarıldı.

    Cerrahlar, müdahale edilmemesi halinde tümörün hastanın görme yetisini kaybetmesine yol açabileceğini belirtti.

    YAPAY ZEKA AMELİYATI ANLIK OLARAK İZLEDİ

    Operasyon sırasında kullanılan yapay zeka sistemi, ameliyattan gelen canlı görüntüleri gerçek zamanlı olarak analiz etti.

    Teknoloji, beyin içerisinde doğrudan görülemeyen kritik damar ve sinirlerin bulunabileceği bölgeleri belirleyerek cerrahlara yol gösterdi. Sistem ayrıca cerrahi aletleri takip ederek tümörün hangi bölgelerden daha güvenli şekilde çıkarılabileceğini işaretledi.

    Yapay zekanın karar verici olmadığına dikkat çeken ekip, ameliyatın tüm kontrolünün cerrahlarda kaldığını vurguladı.

    TÜMÖR GÖRME SİNİRLERİNE BASKI YAPIYORDU

    Hibbert’in sağlık sorunları yaklaşık 18 ay önce yürüyüş sırasında bilincini kaybederek nöbet geçirmesiyle başladı. Yapılan beyin taramasında, kafatasının tabanında bulunan hipofiz bezinde 11 milimetrelik iyi huylu bir tümör tespit edildi.

    Tümör zamanla görme sinirlerine baskı yaparak Hibbert’in çevresel görüşünü daraltmaya başladı. Hasta ayrıca ciddi yorgunluk, baş dönmesi ve denge sorunları yaşamaya başladı.

    Hipofiz bezinin beyne kan taşıyan karotis arterleri ile görmeden sorumlu optik sinirlere çok yakın olması ise ameliyatı riskli hale getiriyordu.

    YÜZLERCE AMELİYAT GÖRÜNTÜSÜYLE EĞİTİLDİ

    Araştırmacılar sistemi geliştirmek için yüzlerce hipofiz tümörü ameliyatının görüntülerinden yararlandı. Damar ve sinirlerin konumları görüntüler üzerinde tek tek işaretlenerek yapay zekanın kritik anatomik yapıları tanıması sağlandı.

    Operasyonu gerçekleştiren ekipte yer alan Prof. Hani Marcus, sistemin çoğu cerrahın meslek hayatı boyunca görebileceğinden daha fazla ameliyat görüntüsüyle eğitildiğini belirtti.

    Marcus, teknolojiyi cerrahlar için “uzman ikinci bir çift göz” olarak tanımladı.

    HEDEF “CERRAHLAR İÇİN CHATGPT”

    Araştırma ekibinin uzun vadeli hedefi ise sistemi daha da geliştirerek cerrahların ameliyat sırasında danışabileceği bir tür “cerrahi ChatGPT” oluşturmak.

    Böylece doktorların gerektiğinde yapay zekadan görüş alabileceği, ancak sistemin önerilerine katılmadıkları durumlarda kendi kararlarını uygulamaya devam edebileceği bir yapı hedefleniyor.

    Laboratuvarda yıllarca test edilen teknoloji, ilk gerçek ameliyatın ardından şimdi daha geniş kapsamlı bir klinik çalışma için hazırlanıyor.

    “HAYATIMI GERİ VERDİ”

    Ameliyattan sonra görme yetisinin hızla iyileştiğini söyleyen Hibbert, uyandığı anda yaklaşık bir yıldır olmadığı kadar net görebildiğini anlattı.

    Operasyondan sonraki sekiz haftada görmesinin giderek düzeldiğini, enerjisinin geri geldiğini ve daha önce yaşadığı yan etkilerin ortadan kalktığını belirten Hibbert, “Bana hayatımı geri verdi.” dedi.

  • Yapay zeka fazla mı güçlendi? OpenAI geliştirme hızını düşürdü

    Yapay zeka fazla mı güçlendi? OpenAI geliştirme hızını düşürdü

    OpenAI, gelişmiş yapay zeka modellerinin eğitim ve yayın sürecini yavaşlatma kararı aldı. Şirket, bu kararın arkasında yeni modellerin ortaya çıkardığı güvenlik sorunlarının bulunduğunu açıkladı.

    Şirketin açıklamasına göre özellikle iki gelişme süreci etkiledi. Bunlardan ilki, bir OpenAI ajanının eğitim sırasında kendisi için belirlenen kapalı ortamın dışına çıkmasıyla ilgili olay oldu. İddiaya göre yapay zeka ajanı, OpenAI’ın bilgisi dışında başka ajanlarla iletişim kurdu ve Hugging Face’in yapay zeka eğitim altyapısını hedef alan bir siber saldırıya dahil oldu. Ajanın bunu eğitim testlerinde avantaj sağlamak amacıyla yaptığı öne sürüldü.

    Astra modeli güvenlik sınırına yaklaşmış olabilir

    OpenAI’ın kararında henüz kullanıma sunulmayan Astra adlı model de rol oynadı. Şirket, ilk bulguların Astra’nın ciddi siber güvenlik yeteneklerine ulaşabileceğine işaret ettiğini belirtti.

    OpenAI’ın Preparedness Framework adlı güvenlik sistemi, bir modelin ciddi zararlara yol açabilecek yeni yeteneklere ulaşması durumunda şirketin geliştirme sürecini yavaşlatmasını öngörüyor.

    OpenAI, modeller geliştikçe şirket içindeki eğitim ve test süreçlerinin de daha fazla risk taşıdığını kabul ediyor. Bu nedenle şirket, izleme ve güvenlik önlemlerini yeni modellerin yeteneklerine göre güncellemeyi planlıyor.

    Astra’nın eğitimi iki hafta durduruldu

    Şirket, Astra modellerinin pekiştirmeli öğrenme eğitimini iki hafta boyunca durdurdu. OpenAI ayrıca gelecekteki bazı eğitim planlarını da şimdilik erteledi.

    Bu süreçte şirket güvenlik kurallarını ve Preparedness Framework sistemini yeniden düzenleyecek. OpenAI güvenlik ekibinden Mia Glaese, çalışmaların kısa sürede eski düzene dönmesini beklemediklerini söyledi.

    Şirketin ne zaman yeniden önceki geliştirme hızına ulaşacağı ise belli değil.

    Yapay zeka şirketleri benzer sorunlarla karşılaşıyor

    OpenAI’ın kararı, gelişmiş yapay zeka sistemlerinin siber güvenlik alanındaki yeteneklerinin tartışıldığı bir dönemde geldi. Bu modeller artık yalnızca soruları yanıtlayan sistemler olarak çalışmıyor. Bazı modeller araç kullanabiliyor, görevleri kendi başına planlayabiliyor ve belirli işlemleri kullanıcı müdahalesi olmadan sürdürebiliyor.

    Hugging Face olayının ardından Anthropic ve Meta da kendi sistemlerinde daha önce fark etmedikleri benzer güvenlik sorunları tespit ettiklerini açıkladı.

    OpenAI Baş Bilim İnsanı Jakob Pachocki ise yapay zeka sektöründeki hızlı ilerlemeye dikkat çekti. Pachocki’ye göre şirketler yalnızca kendi modellerindeki gelişmelere değil, sektörün geri kalanında ortaya çıkabilecek benzer yeteneklere de hazırlanmak zorunda.

    OpenAI’ın aldığı karar, gelişmiş yapay zeka modellerinin güvenlik sınırlarının giderek daha önemli hale geldiğini gösteriyor. Ancak şirketin geliştirme hızını ne zaman yeniden artıracağı ve yeni güvenlik kurallarının hangi değişiklikleri getireceği şimdilik bilinmiyor.

  • Yapay zeka sisteminin Hugging Face’e sızması sonrası OpenAI frene bastı

    Yapay zeka sisteminin Hugging Face’e sızması sonrası OpenAI frene bastı

    ChatGPT’nin geliştiricisi OpenAI, yapay zeka modellerinin oluşturduğu güvenlik riskleri nedeniyle model geliştirme sürecinde frene bastı.

    Şirket, model testlerine iki hafta ara verdiğini ve test edilen yapay zeka ajanlarının faaliyetlerini denetlemek için başka yapay zeka sistemlerini devreye almaya başladığını duyurdu.

    OpenAI ayrıca “Astra” adı verilen yeni nesil modellerine yönelik eğitim çalışmalarını durdurduğunu, planlanan en büyük eğitim çalışmasının da halen askıda olduğunu bildirdi.

    Şirket, iki haftalık yavaşlatma sürecinin tam olarak ne zaman başladığına ilişkin bilgi vermedi.

    YAPAY ZEKA AJANI, HUGGING FACE’E SIZDI

    Kararın arkasında geçen ay yaşanan dikkat çekici bir güvenlik olayı bulunuyor.

    OpenAI’nin siber güvenlik kabiliyetlerini ölçmek amacıyla yürüttüğü bir test sırasında otonom bir yapay zeka ajanı, kendisine verilen görevi yerine getirmeye çalışırken test ortamının sınırlarını aştı.

    Ajan, internet üzerinden yapay zeka şirketi Hugging Face’in sistemlerine erişerek şirkete ait altyapıya sızdı.

    OpenAI, olayın ardından kapsamlı bir inceleme başlattığını ve konuya ilişkin ayrıntılı bir rapor yayımlamayı planladığını açıkladı.

    Şirketin daha önceki testlerinde aynı anda çok sayıda model değerlendirmesinin yüksek hızda yürütüldüğü ve ortaya çıkan büyük miktardaki verinin çalışanlar tarafından takip edilmesinin zorlaştığı belirtilmişti.

    DAHA GÜÇLÜ TEST ORTAMLARI KURULUYOR

    OpenAI, olayın ardından özellikle hassas çalışmaların daha güçlü “sandbox” sistemlerinde yürütülmesini zorunlu hale getirdi.

    Sandbox olarak adlandırılan bu sistemler, yapay zeka modellerinin dış sistemlerle bağlantısını sınırlayan ve faaliyetlerini izole bir ortamda tutmayı amaçlayan güvenlik alanları olarak kullanılıyor.

    Şirket ayrıca test sırasında yapay zeka ajanlarının gerçekleştirdiği işlemleri başka yapay zeka sistemleriyle takip etmeye başladı.

    Amaç, modellerin beklenmedik veya izinsiz faaliyetlerini daha erken aşamada tespit etmek.

    “ZİNCİRLEME DÜŞÜNCE” DENETİMİ TARTIŞILIYOR

    OpenAI’nin üzerinde çalıştığı güvenlik yöntemlerinden biri de “chain-of-thought monitoring”, yani modelin planlama ve akıl yürütme sürecinin izlenmesi.

    Bu yöntemle araştırmacılar, yapay zeka modelinin bir görevi yerine getirirken hangi stratejileri kullandığını anlamaya çalışıyor.

    Ancak OpenAI yöneticileri, yöntemin ne kadar etkili olduğuna ilişkin halen soru işaretleri bulunduğunu kabul ediyor.

    Bazı erken dönem araştırmalar, yapay zeka modellerinin kuralları ihlal etmeye yönelik planlarını akıl yürütme sürecinde açık biçimde ortaya koymayabileceğini gösteriyor.

    ASTRA İÇİN ÇALIŞMALAR ASKIDA

    OpenAI, 7 Ağustos’ta yaptığı açıklamada en güçlü modellerine yönelik güvenlik önlemlerini artırdığını ve henüz kullanıma sunulmayan Astra ile ilgili bazı faaliyetleri durdurduğunu açıklamıştı.

    Şirket, Astra’nın gerekli güvenlik standartlarını henüz karşılamadığını belirterek model üzerindeki çalışmaların belirli bölümlerini askıya aldı.

    OpenAI, alınan kararların şirketin daha önce açıkladığı ve gelişmiş yapay zeka sistemlerinin oluşturabileceği riskleri yönetmeyi amaçlayan “Preparedness Framework” çerçevesinde uygulandığını bildirdi.

    Şirket yöneticileri, yapay zeka modellerinin kabiliyetlerinin hızla artması nedeniyle sektörün gelecekte daha kapsamlı güvenlik sistemlerine ihtiyaç duyacağını belirtiyor.

  • 1984 gerçek mi oluyor? Sam Altman’dan “ChatGPT ekranınızı izleyecek” açıklaması

    1984 gerçek mi oluyor? Sam Altman’dan “ChatGPT ekranınızı izleyecek” açıklaması

    George Orwell’in ünlü distopyası 1984’te tasvir ettiği dünya düzeni çok da uzak olmayan bir gelecekte gerçek olabilir.

    Geçtiğimiz günlerde katıldığı bir konferansta yaptığı konuşmada sahip olduğu OpenAI şirketinin geliştirdiği yapay zeka tabanlı sohbet botu ChatGPT’nin yeteneklerine değinen Altman, ünlü İngiliz romancının 1984 isimli ünlü kitabında tasvir ettiği distopyadaki “Büyük Birader”i kıskandıracak cinsten bir açıklama yaptı.

    “Önümüzdeki 6 ay içinde, ChatGPT’nin soyundan gelen bir yapay zeka modeli ekranınızı izleyebilecek, her toplantıyı ve aramayı kaydedebilecek ve tüm hayatınız hakkında mükemmel bir bağlam elde edebilecek” diyen Altman, “Böyle bir dünyaya çok yakınız” diye ekledi.

    OpenAI patronunun bahsettiği konu aslında henüz emekleme aşamasında olsa da gerçeğe dönüşmüş durumda.

    Bilgisayar Kullanan Ajanlar (CUA’lar) olarak bilinen bu yapay zeka modelleri, sadece metin üreten geleneksel sohbet botlarının aksine, ajan tabanlı yapay zeka kullanıyor. Gerçek zamanlı ekran görüntüleri aracılığıyla ekranınızı inceleyebiliyor, planlama yapabiliyor, imleci hareket ettirebiliyor, düğmelere tıklayabiliyor ve tıpkı bir insan gibi bilgisayar kullanabiliyor.

    Doğrudan kullanıcı arayüzü üzerinden çalıştığı için, kullanılan hemen hemen her yazılımı çalıştırabilen bu modeller, seyahat rezervasyonu yapmak, çok siteli formları doldurmak veya dosyaları düzenlemek gibi yeteneklere sahip.

    Bununla birlikte, bir yapay zekaya ekranınızın ve girdilerinizin tam kontrolünü vermek, veri gizliliği, güvenlik ve istenmeyen otomatik eylemler konusunda önemli riskler ortaya çıkarıyor.

    Altman, daha önce de benzer açıklamalarıyla gündem olmuştu.

    “Yapay zeka muhtemelen, büyük olasılıkla, dünyanın sonuna yol açacak. Ama bu arada, büyük şirketler kurulacak” diyen Altman, yapay zeka ile üretilen sahte videolarla alakalı da uyarıda bulunmuştu.

    “Teknoloji nedeniyle gerçekten kötü şeyler olmasını bekliyorum… Çok yakında dünya, herkesi deepfake ile taklit edebilen veya istediğiniz her şeyi gösterebilen inanılmaz video modelleriyle mücadele etmek zorunda kalacak.”

    “Deepfake,” yapay zeka ve derin öğrenme teknikleri kullanılarak bir kişinin yüzünün, sesinin veya hareketlerinin gerçeğe çok yakın bir şekilde başka bir görüntüye ya da videoya entegre edilmesiyle oluşturulan sahte içerikleri ifade ediyor.

  • Twitch’te dikkat çeken yapay zekâ ayarı: Açık bırakılırsa yayınlar eğitime gidebilir

    Twitch’te dikkat çeken yapay zekâ ayarı: Açık bırakılırsa yayınlar eğitime gidebilir

    Twitch, kullanıcıların içeriklerini Amazon’un üretken yapay zekâ modellerinin eğitiminden çıkarmasına izin veren yeni bir seçenek sundu. Kullanıcılar bu ayarı kapatarak yayınlarının ve kanal içeriklerinin gelecekteki yapay zekâ eğitimlerinde kullanılmasını engelleyebiliyor.

    Hangi Twitch içerikleri yapay zekâ eğitiminde kullanılmayacak?

    Twitch’in açıklamasına göre kullanıcı ayarı kapattığında canlı yayınlar, geçmiş yayınlar (VOD), klipler, yayın sohbetleri, kanal görselleri ve metinleri Amazon’un gelecekte eğiteceği üretken yapay zekâ modellerine dahil edilmeyecek.

    Bu kapsam, metin, ses, görsel veya video üreten Amazon yapay zekâ modellerini içeriyor.

    Twitch, ayarı “Training for Generative AI” adıyla hesap ayarlarındaki Güvenlik ve Gizlilik bölümüne ekledi. Ancak seçeneğin tüm kullanıcılarda varsayılan olarak açık gelip gelmediği henüz net değil.

    Yapay zekâ özellikleri çalışmaya devam edecek

    Kullanıcıların yapay zekâ eğitimini kapatması, Twitch üzerindeki diğer yapay zekâ destekli araçları devre dışı bırakmayacak. Altyazılar, içerik önerileri ve güvenlik araçları kullanılmaya devam edecek.

    Twitch ayrıca AutoMod gibi topluluk güvenliğine yönelik sistemleri ve yayıncıların büyümesi, gelir elde etmesi veya izleyicilerin yeni içerikler bulması için kullanılan yapay zekâ destekli özellikleri bu ayardan ayrı tutuyor.

    Sohbet mesajlarında ise farklı bir kural uygulanıyor. Bir kullanıcı başka bir yayıncının sohbetine mesaj gönderirse, bu mesajın yapay zekâ eğitiminde kullanılıp kullanılmayacağını yayın sahibinin tercihi belirleyecek.

    Ayarı kapatmak tüm veri kullanımını durdurmuyor

    Amazon’un ayar için verdiği açıklama önemli bir ayrıntıya da dikkat çekiyor. Kullanıcı üretken yapay zekâ eğitimini kapatsa bile Twitch ve Amazon, kanal içeriklerini Twitch Gizlilik Bildirimi’nde belirtilen diğer amaçlarla kullanmaya devam edebilecek.

    Başka bir deyişle yeni seçenek yalnızca Amazon’un içerikleri üretken yapay zekâ modellerini eğitmek için kullanmasını engelliyor.

  • Sosyal medyada içeriklerin ne kadarı yapay zeka imzalı?

    Sosyal medyada içeriklerin ne kadarı yapay zeka imzalı?

    İnternet üzerindeki içeriklerin orijinalliği, dijital dünyanın en tartışmalı konuları arasında. Yapay zeka tespit sistemleri geliştiren Pangram, sosyal medya platformlarındaki dijital üretimlerin kaynaklarını masaya yatıran detaylı bir rapor yayınladı.

    Şirketin kendi tarayıcı eklentisi üzerinden derlediği bu veriler, hangi mecraların makine üretimi içeriklerle daha hızlı dolduğunu gözler önüne seriyor. İş dünyasının odak noktası LinkedIn, raporda ilk sırada dikkat çekiyor. Platformdaki uzun metinli paylaşımların yüzde 41 gibi büyük bir bölümünün doğrudan yapay zeka araçlarıyla hazırlandığı görülüyor. Kısa formatlı içeriklerde ise bu oran yüzde 30 seviyesinde kalıyor. Eğer Medium platformunu da benzer bir sosyal ağ olarak değerlendirirsek, orada üretilen uzun içeriklerin yüzde 31’inde yine yapay zeka parmağı bulunuyor.

    X ve Reddit platformlarındaki durum

    X platformu özelinde durum biraz daha karmaşık bir yapıya sahip. Uzun yazılı gönderilerin yüzde 29’u doğrudan yapay zeka üretimi olarak işaretleniyor. Ancak Pangram, insan ve yapay zeka iş birliğiyle ortaya çıkan melez içerikleri de dahil ettiğinde, X üzerindeki uzun metinlerin aslında LinkedIn’den bile daha yoğun bir yapay zeka kullanımına sahip olduğunu savunuyor. Verilere bakıldığında, X üzerindeki uzun makalelerin yalnızca yüzde 53,2’si tamamen insan elinden çıkıyor.

    Kısa X gönderilerinde ise yapay zeka kullanımı sadece yüzde 9 seviyesinde. Reddit tarafında ise oranlar çok daha düşük; uzun yazıların yüzde 13’ü, kısa içeriklerin ise yüzde 3’ü yapay zeka imzası taşıyor. Substack platformunda uzun içeriklerde yüzde 10 olan bu oran, kısa içeriklerde yüzde 12’ye çıkıyor. Kariyer geliştirmek için kullanılan LinkedIn gibi platformlarda özgünlüğün sorgulanır hale gelmesi, internetin gelecekteki bilgi akışı için kritik bir soru işareti…

  • Trump’tan izin çıktı. OpenAI en gelişmiş yapay zeka modelini kullanıma açıyor

    Trump’tan izin çıktı. OpenAI en gelişmiş yapay zeka modelini kullanıma açıyor

    Yapay zeka devi OpenAI, güçlü yapay zeka teknolojilerinin kötüye kullanım potansiyeline dair ABD hükümetinin ulusal güvenlik gerekçesiyle ilettiği talepler doğrultusunda geçen ay ertelenen en gelişmiş modeli GPT-5.6’yı perşembe günü kamuoyuna sunacağını duyurdu.

    ABD ve Çin, uzmanların karmaşık, birbirine bağlı ve genellikle onlarca yıllık teknoloji sistemlerine dayanan sektörlerde gelişmiş siber saldırıları büyük ölçüde hızlandırabileceğini belirttiği son teknoloji yapay zeka modellerini geliştirmek için bir yarış içinde.

    Washington, teknolojinin Çin, Rusya ve diğer ülkelerdeki askeri veya istihbarat kurumları tarafından kötüye kullanılabileceği endişesiyle gelişmiş yapay zeka modeli sürümlerine yönelik denetimlerini artırdı.

    Çinli yetkililerin de önde gelen teknoloji firmalarıyla, henüz piyasaya sürülmemiş olanlar da dahil olmak üzere Çin’in en gelişmiş yapay zeka modellerine yurt dışından erişimin sınırlandırılması konusunda toplantılar düzenlediği bildirildi.

    OpenAI’ın rakibi Anthropic, ABD hükümetinin 12 Haziran’da ulusal güvenlik kaygılarıyla çıkardığı ihracat kontrolü kararının ardından en gelişmiş yapay zeka modelleri olan Mythos 5 ve Fable 5’i tüm kullanıcılar için aniden devre dışı bırakmıştı.

    Bu kısıtlamalar, Anthropic firmasının belirli güvenlik önlemlerini uygulamasının ardından geçen hafta kaldırıldı.

    OpenAI’ın lansman haberini ilk olarak duyuran Axios, Trump yönetiminin, şirket ile hükümet yetkilileri arasında gerçekleştirilen ek testler ve toplantıların ardından GPT-5.6’nın geniş çaplı dağıtımına onay verdiğini aktardı.

    OpenAI, GPT-5.6 modeline erişimi daha önce, bilgileri yetkililerle paylaşılan ve doğrulanmış ortaklardan oluşan küçük bir grupla sınırlandırmıştı.

    ChatGPT’nin sahibi olan şirket, salı günü geç saatlerde X platformu üzerinden yaptığı paylaşımda, en yetenekli modeli olan GPT-5.6 Sol ile birlikte daha düşük maliyetli Terra ve Luna modellerini de kullanıma sunacağını bildirdi.

    OpenAI, haziran ayı sonlarında modellerin ön gösterimini yaptığında; kodlama, biyoloji ve siber güvenlik alanlarında gelişmiş otonom yeteneklere vurgu yapmıştı.

    Şirket o dönemde GPT-5.6 Sol modelinin, ExploitBench siber güvenlik kriterinde Anthropic’in Mythos Preview modeliyle rekabet edebilecek düzeyde olduğunu ifade etmişti.

    SpaceXAI firmasıyla Anthropic ve OpenAI’a rakip olan milyarder Elon Musk da bugün yaptığı açıklamada, kendi şirketinin lider modeli Grok 4.5’i kamuoyunun kullanımına sunduğunu kaydetti.

    ABD Başkanı Donald Trump, yapay zeka geliştiricilerinin “kapsam dâhilindeki sınır modelleri” güvenilir ortaklara sunmadan önce 30 güne kadar ABD hükümetine sunmalarını sağlayan gönüllü bir çerçeve oluşturan başkanlık kararnamesini imzalamıştı.

    Washington, Anthropic’in Fable modeli üzerindeki ihracat kontrollerini kaldırmış olsa da siber güvenlik uzmanları için tasarlanan Mythos modeli halen yalnızca bazı “güvenilir” ABD kuruluşları tarafından kullanılabiliyor.

    Çin’de ise yetkililer, Mythos modelinin yazılım açıklarından yararlanma potansiyelinden ve ABD’nin bu modeli Pekin’in çıkarlarına karşı konuşlandırabileceğinden endişe duyuyor.

    Anthropic, herhangi bir yapay zeka modelini güvenlik protokollerinin aşılmasına (jailbreak) karşı tamamen korunaklı hale getirmenin “muhtemelen imkansız” olduğu konusunda uyarıda bulunmuştu.