Heber City’de Yapay Zeka Krizi
ABD’nin Utah eyaletinde, Heber City Polis Teşkilatı, yapay zeka tabanlı bir rapor yazılımının bir polis memurunu raporun sonunda “kurbağaya dönüştürdüğünü” fark etti. Bu durum, yapay zeka kullanımının polis raporları ve yüz tanıma gibi alanlarda nasıl sorunlar yaratabileceğine dair önemli bir örnek teşkil ediyor.
Hatanın Sebebi: Disney Filmi
Fox 13’ün haberine göre, bu ilginç hatanın arkasında, polis memurunun vücut kamerasındaki görüntülerde arka planda oynayan Disney’in 2009 yapımı “Prenses ve Kurbağa” filmi bulunuyor. Çavuş Rick Keel, yazılımın olay anında arka planda çalan filmden gelen sesleri yanlış yorumladığını açıkladı. Bu durum, yapay zeka destekli sistemlerin ne kadar dikkatli kullanılması gerektiğini gösteriyor.
- Yapay zeka rapor yazımı ve polis teknolojileri
- Vücut kamerası verileri ile otomatik rapor oluşturma
- Polis memurlarının iş yükü azaltma hedefi
Teknoloji ve Zaman Tasarrufu
Draft One adlı yazılım, Axon şirketi tarafından geliştirildi ve OpenAI’ın GPT büyük dil modellerini kullanıyor. Teşkilat, bu aracı memurların evrak iş yükünü azaltmak amacıyla test etmeye başladı. Ancak, basit bir “trafikte araç durdurma” senaryosunda bile yazılımın ciddi hatalar verdiği belirtiliyor. Buna rağmen, Çavuş Keel, bu yazılımın kendisine haftada “altı ila sekiz saat” zaman kazandırdığını ifade etti.
Şeffaflık Endişeleri
Electronic Frontier Foundation (EFF) tarafından yapılan inceleme, bu tür yazılımların kamu denetimini zorlaştırabileceğine dair endişeleri artırdı. EFF’nin raporuna göre, çoğu zaman bir polis raporunun hangi bölümlerinin yapay zeka tarafından üretildiğini ayırt etmek güç. Bu durum, yapay zeka teknolojisinin polislik uygulamalarını nasıl dönüştürebileceğine dair sorular doğuruyor.
Sonuç olarak, Heber City Polis Teşkilatı’nın yaşadığı bu olay, yapay zeka kullanımının potansiyel faydalarının yanı sıra getirdiği zorlukları da gözler önüne seriyor. Bu konularla ilgili daha fazla bilgi için firmalisten.com adresini ziyaret edebilirsiniz.
