bu sadece kısıtlı veriyle eğitilmiş bi dil modeli, girilen metne göre bi metin üretmekten fazlasını yapmıyor. klavyelerdeki sonraki kelimeyi tahmin etme özelliğinin çok büyük veri ve bağlantı ile yapılanı gibi. eğitildiği verinin çok çok büyük çoğunluğu ingilizce, onun belki 10da 1inden azı kadar almanca vs giriyor içine ve kimi diller verisinde yok bile.
bunun sonraki modelleri daha büyük veri ile eğitilip daha iyi ince ayarlar çekilmiş ama konuştuğu şeyi anlamayan bi model hala. bilmediği bir şeyi yetersiz bilgisi ile üretmeye çalışıyor çünkü kodlanması bu şekilde, buna halüsinasyon diyorlar. genel yapay zeka olmadığı için mesela matematik işlemleri çözemiyor, üç boyutlu düşünemiyor yada kavramlar hakkında bi kavrayışa sahip değil sadece bağlantılara sahip. tabi son modelinde artık eklentiler sayesinde bikaç yeteneği gelişse de bunlar kandırmacalardan ibaret ve hala temelinde daha gün yüzüne çıkmamış hataları barındırıyor. çünkü konuşma botu olarak eğitiliyor ayar çekiliyor ve diyalog halinde kesin bilgi gerektirmeyen konularda göze batmıyor zaten ortalama bi insanı kandırmak oldukça kolaydır o yüzden bişi de diyemiyorum :d
örneğin belki girişte dediği gibi 2021e kadar olan kitapların bi kısmını biliyordur, belki bi kısmı ile eğitilmiştir fakat büyük ihtimalle herhangi bi kitabın özetinin de özeti ile eğitildi. ben bi kitap sorduğumda bazen yazarın yazdığı kitapları biliyor. bazen de yazarın yazmadığı kitapları öneriyor, fakat önerdiği kitaplar yazarın yazma biçimine uygun kitaplar. op spesifik bi görsel romanın içeriğini bilmemesi ve hayal görmesi çok doğal çünkü uyduruyor. bu modeller daha konuşmayı bilmeyen çocuklar gibi fakat gelişecekler ve birileri gerçekten bizim hakkımızda, evren hakkında her şeyi onların öğrenmesini ve anlamasını sağlayacak sistemler kuracaklar. sonrasında pişman olacaklar mı bakalım.
şu örneği de vereyim, şimdi ve uzun süre her sistemde olduğu gibi bu ai sistemlerinde de açıklar var. örneğin google ın bi yapay zekası vardı alphago diye, dünya şampiyonu lee sedol ü yenmişti. gerçi birinde abimiz de makinenin eline vermişti ve kasparov gibi ağlamamıştı :d neyse bu go botları çoktandır insanlara yenilmiyordu zaten. fakat her şeyin açığı olduğu gibi bunun da var, çalışıp buluyorlar işte :d bu açıkları bulmak için saldırılar gerçekleştiriyorlar sistemdeki zayıflıkları görmek için neyse bu saldırılar sonrası nerede zayıf olduğunu anlayıp hasım bi ai daha geliştiriyorlar sonra kapıştırıyorlar, ai pek çok yöntem geliştirebiliyor.
bulunan yöntemlerden birini bi insan öğreniyor, bu kişi dünya şampiyonunu yenen yapay zeka ile kapışıp yeniyor :ddd çünkü bu go botlarının aslında oyuna dair temel bi anlayışı yok, bu yöntemleri bilen insan oyunda amatör olsa da süper insan seviyesindeki yapay zekayı yenebiliyor. fakat bu amatör insan başka bi amatör insan kapışırsa kullandığı yöntemi zaten fark edip düşmüyor tuzağa :d (gerçi burada kullandıkları yöndem aslında kutunun içine bakmak gibi fakat sonuçta bu açık yakalama üzerine bi atak elbette sistemin işleyişini anlamak için biraz sakat bırakmak lazım :d) neyse her sistemde olduğu gibi yeterince saldırı olduğu müddetçe açıklar bulunuyor, canlılığın gelişimi de böyle bu botların ve sistemlerin gelişimi de bu şekilde git geli olacak. önemli olan bizim de bi anda mısır uygarlığı gibi, hititler gibi, mayalar gibi bi anda binlerce yıllık uygarlığımız son bulmasın da gerisine bakılır.
şuraya go ile ilgili içeriği bırakayım merak eden okur
www.discovermagazine.com
goattack.far.ai
örneğin belki girişte dediği gibi 2021e kadar olan kitapların bi kısmını biliyordur, belki bi kısmı ile eğitilmiştir fakat büyük ihtimalle herhangi bi kitabın özetinin de özeti ile eğitildi. ben bi kitap sorduğumda bazen yazarın yazdığı kitapları biliyor. bazen de yazarın yazmadığı kitapları öneriyor, fakat önerdiği kitaplar yazarın yazma biçimine uygun kitaplar. op spesifik bi görsel romanın içeriğini bilmemesi ve hayal görmesi çok doğal çünkü uyduruyor. bu modeller daha konuşmayı bilmeyen çocuklar gibi fakat gelişecekler ve birileri gerçekten bizim hakkımızda, evren hakkında her şeyi onların öğrenmesini ve anlamasını sağlayacak sistemler kuracaklar. sonrasında pişman olacaklar mı bakalım.
şu örneği de vereyim, şimdi ve uzun süre her sistemde olduğu gibi bu ai sistemlerinde de açıklar var. örneğin google ın bi yapay zekası vardı alphago diye, dünya şampiyonu lee sedol ü yenmişti. gerçi birinde abimiz de makinenin eline vermişti ve kasparov gibi ağlamamıştı :d neyse bu go botları çoktandır insanlara yenilmiyordu zaten. fakat her şeyin açığı olduğu gibi bunun da var, çalışıp buluyorlar işte :d bu açıkları bulmak için saldırılar gerçekleştiriyorlar sistemdeki zayıflıkları görmek için neyse bu saldırılar sonrası nerede zayıf olduğunu anlayıp hasım bi ai daha geliştiriyorlar sonra kapıştırıyorlar, ai pek çok yöntem geliştirebiliyor.
bulunan yöntemlerden birini bi insan öğreniyor, bu kişi dünya şampiyonunu yenen yapay zeka ile kapışıp yeniyor :ddd çünkü bu go botlarının aslında oyuna dair temel bi anlayışı yok, bu yöntemleri bilen insan oyunda amatör olsa da süper insan seviyesindeki yapay zekayı yenebiliyor. fakat bu amatör insan başka bi amatör insan kapışırsa kullandığı yöntemi zaten fark edip düşmüyor tuzağa :d (gerçi burada kullandıkları yöndem aslında kutunun içine bakmak gibi fakat sonuçta bu açık yakalama üzerine bi atak elbette sistemin işleyişini anlamak için biraz sakat bırakmak lazım :d) neyse her sistemde olduğu gibi yeterince saldırı olduğu müddetçe açıklar bulunuyor, canlılığın gelişimi de böyle bu botların ve sistemlerin gelişimi de bu şekilde git geli olacak. önemli olan bizim de bi anda mısır uygarlığı gibi, hititler gibi, mayalar gibi bi anda binlerce yıllık uygarlığımız son bulmasın da gerisine bakılır.
şuraya go ile ilgili içeriği bırakayım merak eden okur
Adversarial Attack Beats Near-Superhuman AI Go Player
Computer security specialists had hoped Go-playing AI agents would be immune to adversarial attacks. Now it's back to the drawing board.
www.discovermagazine.com
Adversarial Policies in Go - Game Viewer
goattack.far.ai
aslında elinin altında olan varsa hemen sorabilir de. Soru…
