Философские проблемы создания искусственного интеллекта можно разделить на две группы, условно говоря, «до и после разработки искусственного интеллекта».
Первая группа отвечает на вопрос: «Что такое, искусственный интеллект возможно ли его создание?». И вторая группа (этика искусственного интеллекта) задаётся вопросом: «Каковы последствия создания искусственного интеллекта для человечества?», которые приводят нас к проблеме безопасности.
Данная проблема будоражит умы человечества еще со времен Карела Чапека, впервые употребившего термин «робот». Большую лепту в обсуждение данной проблемы внесли и другие писатели-фантасты.
Как самые известные можно упомянуть серии рассказов писателя-фантаста и ученого Айзека Азимова, а так же довольно известное произведение — «Терминатор». Кстати именно у Айзека Азимова мы можем найти самое проработанное, и принятое большинством людей решение проблемы безопасности. Речь идет о так называемых трех законах робототехники.
- 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- 2. Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат первому закону.
- 3. Робот должен заботиться о своей безопасности, насколько это не противоречит первому и второму закону.
На первый взгляд подобные законы, при их полном соблюдении, должны обеспечить безопасность человечества. Однако при внимательном рассмотрении возникают некоторые вопросы.
Интересно, что будет подразумевать система искусственного интеллекта под термином «вред» после долгих логических размышлений? Не решит ли она, что все существования человека это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает.
Не будет ли меньшим злом быстро прекратить эту цепь страданий? Конечно, можно ввести некоторые дополнения, связанные с ценностью жизни, свободой волеизъявления.
Но это уже будут не те простые три закона.
Следующим вопросом будет такой. Что решит система искусственного интеллекта в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто…
Так что можно с уверенностью сказать, что опасения многих людей, в том числе и ученых, не беспочвенны.
И определенно следует именно сейчас начинать продумывать эти вопросы, до того, как получится создать полноценный «машинный интеллект», чтобы обезопасить человечество от возможного вреда или даже истребления, как конкурирующей, в лучшем случае, или просто ненужной биологической разновидности.
