Sì, credo che le emozioni umane non possano essere emulate, se così fosse i computer si domanderebbero ad esempio “ma chi me lo fa fare?” prima di spegnersi da soli. Senza che nessun programmatore abbia previsto questa evenienza.
La consapevolezza di sé significa che ho un pensiero e me ne rendo conto, il computer ad esempio non sa di essere un computer se nessuno glielo “dice”.
No, non penso di avere libero arbitrio, ma sinceramente non capisco nemmeno cosa c'entri col discorso.
Non trovo le tue domande provocatorie.
Tu sei evidentemente schierato per l'intelligenza artificiale forte, io per quella debole, non ci vedo niente di strano! 
Fantavir, in effetti non avevo pensato alla ricerca dei bugs. Hai pienamente ragione.