Makine unlearning nedir ve nasıl çalışır?

“Makine unlearning” (makine unutuşu) olarak adlandırılan yenilikçi teknik, yapay zekanın belirli bir sesi veya veriyi tamamen sistemden kaldırmasını sağlayan gelişmiş bir yöntemdir. Bu sayede, bir sesin izinsiz ve kötü niyetli şekilde taklit edilmesi veya kullanılması önlenmiş olur. Sistem, bu sesi veritabanından silerek, o sesle ilgili herhangi bir üretim veya taklit yapma kapasitesine ulaşmasını engeller.

Bu teknoloji, özellikle kişisel verilerin gizliliği ve güvenliği açısından büyük önem taşımakta olup, sahte seslerin ve içeriklerin yayılmasını önlemeye yönelik güçlü bir araç olarak öne çıkmaktadır.

Meta’nın VoiceBox modeli üzerinde yapılan denemeler

Profesör Jong Hwan Ko ve ekibi, bu yöntemi popüler yapay zeka tabanlı ses üretim modeli olan Meta’nın VoiceBox üzerinde test etti. Denemelerde, unutturulan bir sesin taklit edilme oranında %75 oranında azalma gözlemlendi. Bu, sahte seslerin insanlar tarafından ayırt edilmesini büyük ölçüde kolaylaştırdı. Ayrıca, bu teknik sayesinde, modelin taklit edebileceği seslerin kalitesi ve doğruluğu önemli ölçüde düşürüldü.

Unutma işleminin etkileri ve maliyetleri

Ancak bu unutma işlemi, diğer seslerin taklit edilme kalitesinde ortalama %2,8 oranında bir düşüşe yol açmakta. Bu da, sistemin genel performansını ve ses üretme yeteneğini az da olsa etkilemektedir. Araştırmalara göre, bir sesi tamamen unutturmak için, o sesin yaklaşık beş dakikalık orijinal kaydına ihtiyaç duyulmakta ve bu işlem, istenen ses sayısına bağlı olarak birkaç gün sürebilmektedir.

Geri getirilemezlik ve güvenlik

Unutulan verilerin, rastgele gürültü veya başka yöntemlerle değiştirilerek geri getirilemediği ve yeniden üretilemediği açıkça belirtilmektedir. Bu sayede, kullanıcıların kişisel veya hassas verilerinin güvenliği sağlamış olmaktadır.

Makine unlearning ve güvenlik bariyerleri

Günümüzde yapay zekanın zararlı veya istenmeyen içerik üretimini engellemek amacıyla genellikle koruma bariyerleri (guardrails) kullanılmaktadır. Ancak, bu bariyerler zaman zaman aşılabiliyor veya atlatılabiliyor. Makine unlearning ise, bu sorunu ortadan kaldırmayı amaçlayan ve veriyi tamamen sistemden silerek, geri getirilemez hale getirerek, bu açıkları kapatmayı hedefleyen ileri bir teknolojidir.