• Buradasın

    Anthropic, Claude AI’a zararlı sohbetleri sonlandırabilme özelliğini getirdi

    teknoblog.com18 Ağustos
  • poster
    poster
    poster
    Anthropic, Claude AI için geliştirdiği yeni güvenlik özelliğini kamuoyuna tanıttı. 
    1
    18 Ağustos
    Claude Opus 4 ve 4.1 artık kullanıcılarla olan sohbeti sonlandırma yeteneğine sahip. 
    2
    18 Ağustos
    Anthropic’in aktardığı bilgilere göre Claude Opus 4, terör eylemi planı hazırlama, biyolojik silah geliştirme ya da soykırım inkarı gibi zararlı taleplerle karşılaşıp kullanıcı da ısrarcı davranırsa, yalnızca reddetmekle yetinmeyecek. 
    3
    18 Ağustos
      teknoblog.com1
      webtekno.com2
      tamindir.com3

    Diğer konular

    Muhtemelen sizinki de aralarındaı! Yapay zekayla yapılan 370 bin özel konuşma internete düştü - Sözcü Gazetesi
    sozcu.com.tr21 Ağustos
    Anthropic, Claude AI’a zararlı sohbetleri sonlandırabilme özelliğini getirdi
    teknoblog.com18 Ağustos

    İçerik konuları

    Grok
    Artificial Intelligence
    Siber İstismar

  • Yanıt bulun

    Yazeka

    Arama sonuçlarına göre oluşturuldu

    Claude AI'nin bazı güvenlik özellikleri:
    • Genişletilmiş düşünme (Extended Thinking) 1. Model, karmaşık problemleri çözmek için gerektiğinde duraklayabilir ve muhakemesini geliştirebilir 1.
    • Çok modlu yetenekler 1. Görsel içerikleri analiz edebilir, el yazısı notlar, grafikler ve fotoğraflar dahil olmak üzere görüntüleri yazıya dökebilir ve çevirebilir 12.
    • Gelişmiş konuşma modeli 2. Diyalogları ve konuşmaları doğal bir şekilde ele alır, bağlamı anlayabilir ve birden fazla amacı olan soruları yorumlayabilir 2.
    • Sürekli ve uyarlanabilir öğrenme 2. Kullanıcılarla etkileşime girdikçe ve geri bildirim aldıkça, performansını artırmak için algoritmalarını ve modellerini ayarlar 2.
    • Sezgisel ve konuşmaya dayalı arayüz 2. Kullanıcıların karmaşık veya teknik komutlara ihtiyaç duymadan soru sormasına ve isteklerini ifade etmesine olanak tanır 2.
    • Veri güvenliği ve gizlilik 2. Uçtan uca şifreleme ve iki faktörlü kimlik doğrulama gibi gelişmiş güvenlik önlemleri kullanır 2.
    • Etik ve sorumluluk vurgusu 12. Herhangi bir eylemde bulunmadan önce, sistem olası sonuçları dikkatlice değerlendirir ve eylemlerinin etik ilkeler ve insani değerlerle uyumlu olmasını sağlar 12.
    5 kaynak
    Yapay zeka güvenliğini sağlamak için bazı yöntemler:
    • Veri güvenliği: Hassas verilerin şifrelenmesi, veri kaynaklarının doğrulanması ve düzenli veri temizliği yapılması 13.
    • Model güvenliği: Yapay zeka modellerinin düzenli testlerle güvenlik açıklarının belirlenmesi ve düşmanca eğitim tekniklerinin uygulanması 13.
    • Erişim denetimi: Rol tabanlı erişim kontrolü, çok faktörlü kimlik doğrulama ve tüm erişim girişimlerinin izlenmesi 13.
    • Düzenli denetimler ve izleme: Sistem performansındaki düzensizliklerin tespiti için yapay zeka sistemlerinin sürekli izlenmesi 13.
    • Yapay zeka güvenlik standartları: Bilgi güvenliği yönetimi için ISO/IEC 27001 gibi standartların uygulanması 3.
    Ayrıca, yapay zeka sistemlerinin güvenliğini artırmak için güvenlik çerçeveleri (örneğin, NIST Yapay Zeka Risk Yönetimi Çerçevesi) ve özel yapay zeka güvenlik araçları da kullanılabilir 15.
    5 kaynak
    Terörle mücadelede yapay zeka şu şekillerde kullanılabilir:
    • Propaganda ve eleman kazanma: Yapay zeka destekli sosyal medya araçları ve botlar, propaganda ve eleman kazanma stratejileri için kullanılır 2.
    • İstihbarat toplama: Yapay zeka, potansiyel hedefleri belirlemek, güvenlik güçlerinin hareketlerini izlemek ve sosyal medya ile haber kaynaklarından veri analiz etmek için kullanılır 12.
    • Siber saldırılar: Yapay zeka, özellikle deepfake teknolojileri ile siber saldırılar düzenlemek için kullanılır 24.
    • Silahlı operasyonlar: Dronlar ve diğer otonom sistemler, yapay zeka ile donatılıp saldırı amaçlı kullanılabilir 12.
    • Veri analizi: Yapay zeka, büyük veri kümelerini hızlı bir şekilde analiz ederek şüpheli davranışları ve potansiyel tehditleri belirlemeye yardımcı olur 35.
    Türkiye gibi terör tehdidinin yoğun olduğu ülkelerde, yapay zekanın terörle mücadelede kullanımı önem taşımaktadır 5.
    Ancak, yapay zekanın terörle mücadelede kullanımı, gizlilik ve etik konular, veri güvenliği ve insan etiketlemesi gibi zorluklar da beraberinde getirir 5.
    5 kaynak
    Claude Opus 4'ün bazı yetenekleri:
    • Kodlama: SWE-bench testinde %72,5 başarı oranıyla dünyanın en iyi kodlama modeli olarak kabul edilir 12. Uzun süreli ve karmaşık kodlama görevlerinde yüksek performans gösterir 12.
    • Genişletilmiş düşünme (extended thinking): 32.000 belirtece kadar çıktı üretebilir, bu da çok dosyalı kod düzenlemeleri ve bilimsel makaleler için uygundur 2.
    • Araç kullanımı: Web arama ve kod yürütme gibi araçları düşünce zincirine entegre edebilir 12.
    • Hafıza ve bağlam farkındalığı: Kendi kendine oluşturulan "bellek dosyaları" ile uzun vadeli görevlerde tutarlılık sağlar 12.
    • Güvenlik: ASL-3 standartlarına uygun güvenlik önlemleri içerir, hassas konularda otomatik şifreleme yapar 2.
    • Ajan görevleri: Araştırma, yazılım refaktörü ve iş süreci orkestrasyonu gibi görevlerde kullanılabilir 23.
    5 kaynak
    Anthropic'in Claude AI için uyguladığı diğer güvenlik önlemlerinden bazıları şunlardır:
    • Kullanım politikası 14. Claude'un nasıl kullanılması gerektiğini belirleyen bir kural kitabıdır 14. Seçim bütünlüğü ve çocuk güvenliği gibi büyük konularda net yönergeler sunar 14.
    • Tehdit modelleri 1. Geliştirilmiş yeteneklerden kaynaklanabilecek tehditleri belirler ve bu tehditlere karşı savunmaları test eder 1.
    • Gerçek zamanlı tespit ve uygulama 14. Özel olarak eğitilmiş Claude modelleri olan "sınıflandırıcılar" kullanarak, belirli politika ihlallerini gerçek zamanlı olarak tespit eder ve zararlı çıktıları önlemek için yanıt yönlendirme ve hesap engelleme gibi önlemler alır 14.
    • Önyargı değerlendirmeleri 14. Claude'un farklı bağlamlarda ve kullanıcılarda güvenilir ve doğru yanıtlar verip vermediğini kontrol eder 14.
    • Dış uzman testleri 34. Terörizm ve çocuk güvenliği gibi alanlarda uzmanlar, zayıf noktaları belirlemek için Claude'u zor sorularla test eder 34.
    • Siber güvenlik ve anti-jailbreak sistemleri 3. Yetkisiz erişimi engellemek için gelişmiş güvenlik önlemleri ve güvenlik kısıtlamalarını aşan girişimleri engelleyen karmaşık sistemler içerir 3.
    Anthropic, yapay zeka güvenliğini tek başına sağlayamayacağını kabul eder ve sürekli olarak yeni tehditler arar, veri analizi yapar ve kötü aktörlerin takılabileceği forumları izler 4.
    5 kaynak