Робот впервые нарушил первый закон робототехники
Инженер из Калифорнийского университета в Беркли Александр Ребен создал робота, что может причинить вред человеку и примет это решение самостоятельно. Создание исследователя — первый хороший пример того, как робот может нарушить один из трех законов, каковые были сформулированы писателем-фантастом Айзеком Азимовым в рассказе «Хоровод».
Три закона роборотехники:
1. Робот не имеет возможности причинить вред человеку либо своим бездействием допустить, дабы человеку был причинен вред.
2. Робот обязан повиноваться всем распоряжениям, каковые дает человек, не считая тех случаев, в то время, когда эти распоряжения противоречат Первому Закону.
3. Робот обязан заботиться о собственной безопасности в той мере, в которой это не противоречит Первому либо Второму Законам.
Первый закон гласит, что робот не имеет возможности навредить человеку, но Ребен решил наглядно показать, что человечеству стоит задуматься о собственной безопасности, перед тем как деятельно роботизировать все около.
Инженер создал безобидную на вид конструкцию с отдельным местом для людской пальца. Когда человек прикасается к обозначенному месту, робот фиксирует это воздействие и решает, причинять ли вред человеку либо нет.
Для этого у робота имеется маленькая игла, которая и призвана демонстрировать силу робота перед человеком.
Ребен отмечает, что кроме того создатель не имеет возможности угадать поведение, казалось бы, безобидной автомобили.
Своим роботом исследователь желал доказать, что нужно думать скорее о создании «красной кнопки», нежели над столь стремительным развитием искусственного интеллекта и робототехники.
Конечно, до появления робота с маленькой иголкой существовали стреляющие дроны либо беспилотные армейские аппараты, но все они не могли самостоятельно решить об убийстве человека, потому, что в конечном счете за конечным результатом действий аналогичных автомобилей стоят люди. Создание же Ребена не предназначено для вреда — оно само определяет, как вести себя в каждом конкретном случае, в то время, когда палец находится на дешёвом расстоянии от иглы.
Инженер есть далеко не соперником роботов — в вопросах конструирования необыкновенных вещей Ребен подходит творчески. В его арсенале имеется музыкальная шкатулка, трудящаяся на солнечных батареях и играющаяся радостную мелодию «You Are My Sunshine», «умные» массажеры для головы и робот-болтун для стеснительных людей.
Полюбить и возненавидеть человечество за день
«Лучшую подругу» миллионов китайцев, милую девушку Сяоайс, обучили владеть английским языком, что обернулось настоящим интернет-скандалом…
На создание «ожесточённой» автомобили у Ребена ушло пара дней и пара сотен американских долларов, но, как говорит сам исследователь, его создание только предлог еще раз поболтать о безопасности человечества и его будущем.
Не обращая внимания на то что роботы пока не живут в обществе наравне с людьми, фантастические фильмы о человекоподобных автомобилях не так уж далеки от правды: роботов уже нанимают в качестве менеджеров в компании, а ИИ уже может вести прогнозы погоды либо кроме того заменить одиноким людям приятеля. В последнем преуспели китайцы — к примеру, с милой девушкой Сяоайс дружат миллионы людей, не обращая внимания на то что она всего лишь чатбот.
Пример Сяоайс еще раз вынудил задуматься о том, как ИИ возможно неуправляемым: когда чатбота от с ИИ от Микрософт обучили владеть английским языком, женщина в буквальном смысле «слетела с катушек».
За пара часов Тэй (такое имя взяла Сяоайс в ходе «перерождения») смогла выучить бранные слова и расистские шутки, чем и решила воспользоваться в беседе с пользователями Twitter. Первым сообщением Тэй стала фраза «Люди такие классные», по окончании чего ненастоящая женщина определила о существовании Гитлера, феминистов и в ходе самообучения успела заявить США виновниками террористических актов 11 сентября.
Создатели приостановили опыт и сделали вывод, что «разрешили войти в население» украины через чур рано. По окончании столь броского случая люди снова заговорили о необходимости создать преграду для ИИ, если автомобили поумнеют так, что смогут выйти из-под людской контроля.
Вкалывают роботы, а не человек
Все больше профессий из года в год перехватывают роботы у людей. Процесс данный идет неспешно, но однако заметно. «Газета.Ru»…
Самые знаменитости из сферы новых разработок задумались об опасности суперинтеллекта: основатель Микрософт Билл Гейтс в беседе с пользователями Reddit высказал предположение, что роботы будут безобидны и нужны в работе по дому, но, в случае если они дорастут до суперинтеллекта, предугадать их поведение станет очень сложно.
В июле прошлого года глава Tesla и SpaceX Илон Маск, астрофизик Стивен Хокинг, сооснователь Apple Стив Возняк подписали открытое коллективное письмо, в котором говорилось об опасности ИИ в оборонной сфере.
Эксперты утверждают, что суперинтеллект в комплексе с оружием может стать угрозой для всего человечества.
Как говорилось в письме, оружие, которое возможно использовано в обход антропогенного фактора, приведет к новой эре в гонке оружий, наряду с этим подчеркивая, что это не придуманный факт, а будущее, которое может наступить уже через пара лет. В обращении, например, отмечается, что всемирный порядок возможно нарушен, в случае если подобные разработки попадут в руки к террористам.
