Илон Маск: "Искусственный интеллект может стать бессмертным диктатором"

В худшем случае машинный разум может посчитать людей ненужными или даже опасными для своего существования. Тогда, по мнению Илона Маска, такой суперинтеллект даже может «захотеть» уничтожить человечество или привести к власти бессмертного киборга-диктатора.


В недавно выпущенной документалке «Доверяете ли вы этому компьютеру?» шла речь о том, что человеческие диктаторы по-прежнему смертны, но «бессмертный диктатор» может править вечно - а значит, мы никогда не станем свободными.

Илон Маск отмечает: когда ИИ станет умнее людей, мы можем потерять контроль над ним и не сможем воспрепятствовать ему в достижении его целей. Представьте себе сценарий, в котором механический сверхразум признает человека угрозу своему существованию и, имея в распоряжении собственную армию роботов, начинает ликвидировать это препятствие.


«Искусственный интеллект не должен быть злом, способным уничтожить человечество, - если у ИИ имеется цель и люди стоят на его пути, то, безусловно, машина решит уничтожить нас без раздумий. Представьте, как если бы мы строили улицу, а нам вдруг начали мешать муравейники; не то чтобы мы ненавидели муравьев, но улицу же все равно надо построить», - сказал Илон Маск.


Прогнозы Маска сейчас кажутся маловероятными. Однако мы должны понимать, что машинный интеллект не использует эмоции. Если у него есть команда или он сам ставит задачу, то все силы будут направлены на ее реализацию. В конечном счете, когда ИИ станет самодостаточным, он либо объявит войну человечеству, либо введет диктатуру для полной власти над нами.