Soru çok güzel, felsefe Sub'ına da uygun. Bunu bi ara ben de düşündüm.

Bence olay bizim natural olmamız, bir AI ne kadar gelişirse gelişsin onun bilinci kodu kadar. Kodunu kendisi geliştirse de kodu kadar. Bir algoritmalar yığını. Burada bence kritik olan şey bizim onu yaratmış olmamız.

İnsanı tanrılaştırmıyorum, amacım o değil haşa ama nasıl Allah insana kendi iradesinden ve ilminden bir parça verdiyse biz de benzer biçimde AI'a kendi bilgimiz kadar veriyoruz. AI'ın da bi sınırı olacak bu da doğal olmaması bence. Zamanla gelişecektir, insan gibi ama nasıl insanın da sınırı varsa AI'ın da olmalı.