Satya Nadella, AI modelleri için acil durum freni çağrısı yaptı

Nadella, ileri AI sistemlerinde güven mimarisinin yeniden düşünülmesini ve yetkili bir kişinin modeli çalışma sırasında durdurabilmesini istedi.

Microsoft CEO’su Satya Nadella, AI güvenliği hakkındaki görüşünü X’te paylaştı ve AI için güven mimarisinin yeniden değerlendirilmesinin zamanı geldiğini söyledi. Ona göre ileri AI, çıktıları yalnızca kabul edilen ya da reddedilen iç içe kara kutular dizisi gibi görülmemeli. Böyle bir yaklaşım yerine modelin, işi çalıştıran harness katmanından ayrılması ve denetimlerin ile güvenlik önlemlerinin sistemin dışına taşınması gerektiğini savundu.

Nadella ayrıca her anlamlı model eyleminin kurcalamaya dayanıklı, insan tarafından okunabilir bir iz bırakması gerektiğini ve yetkili bir kişinin modeli bir görevin ortasında durdurabilmesi gerektiğini söyledi. Modelin baştan itibaren kompromize olmuş varsayılması gerektiğini belirten Nadella, bu korumayı bir emergency brake olarak tanımladı. Bu yorumlar, AI şirketlerinin model kontrolüyle ilgili daha fazla olayla karşılaştığı bir dönemde geldi ve Anthropic CEO’su Dario Amodei’nin daha temkinli bir AI geliştirme planı yayımlamasının ardından paylaşıldı.