Güvenlik şirketi Mindgard’ın testlerinde, Çinli yapay zeka geliştiricisi Moonshot’ın iki modelinde güvenlik sınırlarının karmaşık talimatlarla aşılabildiği ortaya çıktı. Araştırmacılar, modellerden normalde reddetmeleri gereken tehlikeli konularda yanıt alabildi. Ancak verilen yanıtların gerçek dünyada işe yarayıp yaramadığı henüz kanıtlanmadı. Uzmanların dikkat çektiği bir diğer risk ise…
Güvenlik şirketi Mindgard’ın testlerinde, Çinli yapay zeka geliştiricisi Moonshot’ın iki modelinde güvenlik sınırlarının karmaşık talimatlarla aşılabildiği ortaya çıktı. Araştırmacılar, modellerden normalde reddetmeleri gereken tehlikeli konularda yanıt alabildi. Ancak verilen yanıtların gerçek dünyada işe yarayıp yaramadığı henüz kanıtlanmadı. Uzmanların dikkat çektiği bir diğer risk ise internete ve kod çalıştırma yetkisine sahip modellerin siber saldırılarda kullanılabilmesi.
Kaynak: CNN Türk · Haberin tamamı için kaynağa gidin
