Искусственный интеллект: друг или враг?

[azamat]

Ученые начали пугать людей искусственными мозгами примерно 50 лет назад. Тогда известный британский статистик Ирвинг Джон Гуд предрекал, что сразу вслед за постройкой "сверхразумной машины… несомненно, последует "интеллектуальный взрыв" и разум человека намного отстанет от искусственного… Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем".

Страшное и, казалось бы, фантастическое пророчество обрело реальные черты в 1997 году. Тогда суперкомпьютер Deep Blue, построенный на 256 параллельно работающих процессорах, обыграл в шахматы не кого-нибудь, а самого чемпиона мира Гарри Каспарова. То есть уже кое в чем превзошел.

Ныне растут и мощность, и быстродействие компьютеров. Для подсчета количества операций, выполняемых ими за секунду, уже применяют приставку "пета", обозначающую единицу с 15 нулями. А подумывают о "йотте", "хелле" – единицах с 24 и 27 нулями. Ученые проектируют квантовые компьютеры и объединяют элементы в нейронные сети, схожие по конструкции с мозгом.

Еще три года назад ученые из компании IBM и Швейцарского федерального технического института Лозанны (Ecole Polytechnique Federale de Lausanne – EPFL), работающие по проекту Blue Brain ("Голубой мозг"), объявили о том, что им удалось полностью имитировать часть мозга мыши. На очереди – человек. При этом исследователи не собираются моделировать сознание и создавать интеллект. По их словам, после достижения некоего порога сложности системы "сознание может получиться само собой".

- Сорок лет назад мы даже не могли представить, какими темпами будут развиваться информационные технологии, – говорит технический директор корпорации Intel Джастин Раттнер. – Уже недалеко то время, когда “разум” компьютеров превзойдет возможности людей.

Редкий футуролог сомневается, что такое время обязательно наступит. Если, конечно, не помешает какая-нибудь глобальная катастрофа. Но что сулит интеллектуальная революция? Рай земной для человечества? Или ад? Вот тут единодушного мнения у экспертов нет.

Энтузиасты – своего рода утописты – видят будущее весьма светлым. Полагают, что искусственный интеллект дополнит человеческий и наделит каждого сверхъестественными возможностями. Для начала – колоссальной памятью, а потом и способностью мгновенно решать сложнейшие задачи. Хотя бы за счет того, что люди смогут напрямую – посредством особых интерфейсов – соединяться с компьютерами и пользоваться ими словно своими мозгами.

Мрачные скептики видят опасности. И прогнозируют неприятности разного масштаба.

- Нет никаких доказательств того, что уровень человеческого разума – непреодолимый порог, – говорят они. – Наоборот, дело идет к его преодолению.

Но если человек создаст разум, более совершенный и мощный, чем его собственный, ничто не помешает уже этому разуму создать еще более мощного искусственного потомка. И он пойдет все дальше и дальше по пути интеллектуальной эволюции – к беспредельному разуму.

Только еще раньше и довольно быстро человечество превратится в сообщество более низкого порядка. Не в муравьев, конечно, но в детей. Даже самое минимальное отставание приведет к стойкому непониманию происходящего. Попробуйте объяснить пятилетнему ребенку секрет работы, нет, не синхрофазотрона, а хотя бы телевизора или холодильника. Вряд ли ваши старания увенчаются особым успехом.

Компьютеры начнут сами ставить перед собой задачи. И сами их решать. Решать методами, которые человек вряд ли сможет постигнуть. А поскольку искусственный разум в отличие от нашего мозга будет иметь реальную возможность самосовершенствоваться, все это станет происходить с возрастающей скоростью. Вокруг нас будут появляться новые машины, приборы, установки, непонятно что делающие и неизвестно как функционирующие.

После того как суперразум опустит человечество с вершины эволюционной лестницы, возможно, наступит всеобщее благоденствие. Если детище – этот "вундеркинд" – возлюбит нас и станет заботиться. Как мы – о домашних животных: собаках, кошках или хомячках. А не возлюбит, так может случиться, как в фильме про терминатора.

Точку в истории человечества, когда мы перестанем понимать, что происходит вокруг нас, ученые назвали "технологической сингулярностью". Впервые это словосочетание употребил еще в середине прошлого века один из отцов современных компьютеров Джон фон Нейман. Он часто говорил "о непрерывно ускоряющемся техническом прогрессе и переменах в образе жизни людей, которые создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела, в том виде, в каком мы их знаем, не смогут продолжаться".

Известный американский изобретатель и футуролог Рэй Курцвайль, имя которого включено в список 18 выдающихся мыслителей современности, назначает сингулярность на 2029 год. Схожего мнения придерживаются специалисты проекта Blue Brain, которые к 2029 году планируют полностью смоделировать мозг человека.

 

У Джастина Раттнера прогнозы скромнее. Он считает, что искусственный разум обгонит в своем развитии человеческий к 2050 году.

Термин "искусственный интеллект" (AI – Artificial Intelligence) появился сравнительно недавно – в 1956 году. Его ввел 29-летний доцент Стэнфордского университета Джон Маккарти. Правда, как указывает председатель Петербургского отделения российской ассоциации искусственного интеллекта Т. А. Гаврилова, в английском языке словосочетание artificial intelligence не имеет той слегка фантастической антропоморфной окраски, которую оно приобрело в довольно неудачном русском переводе. Слово intelligence означает "умение рассуждать разумно", а вовсе не "интеллект", для которого есть английский аналог intellect. А знаменитый математик Алан Тьюринг придумал тест на разумность этого интеллекта. Выглядит он так: "судья" в письменном виде общается с двумя субъектами, один из которых – человек, а второй – компьютер. Машина признается "разумной" в том случае, если судья за пять минут не сможет правильно определить, кто есть кто. Пока еще ни одной машине тест пройти не удалось, хотя сам Тьюринг был уверен, что уже к 2000 году компьютеры сумеют в 30 процентах случаев показать себя разумными созданиями. Источник

ASIMO — Интеллектуальный гуманоидный робот фирмы Honda

В научно-фантастической литературе и кино ИИ чаще всего изображается как сила, которая пытается свергнуть власть человека (Омниус, HAL 9000 в "Космическая одиссея 2001 года", Скайнет, Colossus, "Матрица" и репликант в "Бегущий по лезвию") или обслуживающий гуманоид (C-3PO, Data, KITT и KARR, "Двухсотлетний человек"). Неизбежность доминирования над миром ИИ, вышедшего из под контроля, оспаривается такими его исследователями, как фантаст Айзек Азимов и кибернетик Кевин Уорвик (Kevin Warwick), известный множественными экспериментами по интеграции машин и живых существ.

Любопытное видение будущего представлено в романе "Выбор по Тьюрингу" писателя-фантаста Гарри Гаррисона и ученого Марвина Мински. Авторы рассуждают на тему утраты человечности у человека, в мозг которого была вживлена ЭВМ, и приобретения человечности машиной с ИИ, в память которой была скопирована информация из головного мозга человека.

Некоторые научные фантасты, например Вернор Виндж, также размышляли над последствиями появления ИИ, которое, по-видимому, вызовет резкие драматические изменения в обществе. Такой период называют технологической сингулярностью.

Тема ИИ рассматривается под разными углами в творчестве Роберта Хайнлайна: гипотеза возникновения самоосознания ИИ при усложнении структуры далее определённого критического уровня и наличии взаимодействия с окружающим миром и другими носителями разума ("The Moon Is a Harsh Mistress", "Time Enough For Love", персонажи Майкрофт, Дора и Ая в цикле "История будущего"), проблемы развити ИИ после гипотетического самоосознания и некоторые социально-этические вопросы ("Friday"). Социально-психологические проблемы взаимодействия человека с ИИ рассматривает и роман Филипа К. Дика "Снятся ли андроидам электроовцы?", известный также по экранизации "Бегущий по лезвию".

Одни из самых глубоких исследований проблематики ИИ проявляются в творчестве фантаста и философа Станислава Лема.

Однако, существует кое-что ещё. Так, ДИАЛЕКТИКА и Новейшая философия, насколько я понял из этого источника, отрицают саму возможность создания искусственного интеллекта, поскольку интеллект — это только биологический феномен.

***

Тема посвящается фантастическим кинофильмам:

2001 год: Космическая одиссея

Бегущий по лезвию

Терминатор

Матрица

Искусственный разум

Ну так, что скажете?

[ВАНДАМЧИК]

Вот когда Искусственный интеллект начнет создавать людей, тогда я и признаю, что они умнее.

[azamat]

Вот когда Искусственный интеллект начнет создавать людей, тогда я и признаю, что они умнее.

В ближайшие тысячи лет, думаю, что подобное не предвидится, для ИИ это уж слишком - фантастика )))

[ВАНДАМЧИК]

В ближайшие тысячи лет, думаю, что такое не предвидится )))

 

Ну, значит точно не признаю))

 

Иногда нравится читать про реальные противостояния машин и людей. Но обычно это только игры.

[Shelly]

как говорили нам на парах по ИИ, пока машина не научится воспроизводить эмоции, человечество непобедимо)

[Beltrop]

как говорили нам на парах по ИИ, пока машина не научится воспроизводить эмоции, человечество непобедимо)

А у нас на парах по системам искусственного интеллекта просто объясняли устройство работы систем. Они настолько далеки от описываемых футурологами и философами (то есть, далекими от технических наук людьми) страшилок, что всерьез не получается все это воспринимать. Не знаю, как набор алгоритмов гибких с интегрированной экспертной базой знаний (почти то же, что БД) можно представлять как конкурент человеческого мозга в перспективе.. Почти с тем же успехом можно автоматические ворота с датчиком приравнивать к врагу человека.

[euro-banan]

Не знаю, как набор алгоритмов гибких с интегрированной экспертной базой знаний (почти то же, что БД) можно представлять как конкурент человеческого мозга в перспективе..

 

В перспективе [людьми, близкими к тех.наукам, да] если и представляется, то именно так в основном. Потому что разум для них эт тоже набор алгоритмов (:

[M.Burns]

Я бы не стал руководствоваться такими понятиями, как «друг» или «враг». Если ИИ когда-нибудь будет создан, то мы получим еще одного «соседа», сосуществующего с нами. Однако, это будет первый сосед, не уступающий человеку в его главном оружии – интеллекте. Какими принципами он будет руководствоваться – неизвестно, однако зачем ему «дружить» с человеком – не совсем ясно. Ведь умный и высокоморальный человек пока занимается лишь тем, что подстраивает все окружающее под удобный ему лад.

[azamat]

ИИ в 2029 году

[Гвалиор]

В отличие от инстинкта разум учится на своих ошибках. То, что там эти роботы делают - это всего-навсего результат заложенных в них программ. Не более. Даже эмоции будут запрограммированы.

Я считаю, что искусственный интеллект - это утопия. С человеческим разумом до сих пор до конца не разобрались (а он способен на большее, чем суперкомпьютеры современные). В будущем нас ожидают роботы-помощники - только и всего.

Но давайте пофантазируем: типа таки создали искусственный интеллект. Вопрос: какая у него логика? Конечно, не такая, как у человека - он-то и людей может за разумных существ не принять. За себе подобных (или равных) - тем более.

[MemphisRains]

как говорили нам на парах по ИИ, пока машина не научится воспроизводить эмоции, человечество непобедимо)

 

Люди их и научат

 

Соль ИИ в самообучении. В том что его нельзя будет до конца просчитать!

Думаю ИИ будет существовать-но полного автоматизма в военных сферах думаю не будет-аля терминатор. Тут кстати многое от людей зависит-будет ли ИИ бедой или манной небесной.

Как воспитаем дитя-что оно увидит в нас.

[Гвалиор]

Страшное и, казалось бы, фантастическое пророчество обрело реальные черты в 1997 году. Тогда суперкомпьютер Deep Blue, построенный на 256 параллельно работающих процессорах, обыграл в шахматы не кого-нибудь, а самого чемпиона мира Гарри Каспарова. То есть уже кое в чем превзошел.

 

Он превзошёл в запоминании партий, благодаря чему и выиграл. Но компьютер никогда не сметёт шахматные фигуры противника со стола, оставив одного короля

 

Ныне растут и мощность, и быстродействие компьютеров. Для подсчета количества операций, выполняемых ими за секунду, уже применяют приставку "пета", обозначающую единицу с 15 нулями. А подумывают о "йотте", "хелле" – единицах с 24 и 27 нулями. Ученые проектируют квантовые компьютеры и объединяют элементы в нейронные сети, схожие по конструкции с мозгом.

 

Опять-таки обработка и усваивание информации, но задачу задаёт человек, он же компьютер и создаёт.

 

Еще три года назад ученые из компании IBM и Швейцарского федерального технического института Лозанны (Ecole Polytechnique Federale de Lausanne – EPFL), работающие по проекту Blue Brain ("Голубой мозг"), объявили о том, что им удалось полностью имитировать часть мозга мыши. На очереди – человек. При этом исследователи не собираются моделировать сознание и создавать интеллект. По их словам, после достижения некоего порога сложности системы "сознание может получиться само собой".

 

Что значит часть мозга? Этот кусочек был жизнеспособным? Насколько жизнеспособным?

 

- Сорок лет назад мы даже не могли представить, какими темпами будут развиваться информационные технологии, – говорит технический директор корпорации Intel Джастин Раттнер. – Уже недалеко то время, когда “разум” компьютеров превзойдет возможности людей.

 

Компьютеры не умеют придумывать, вычислять - да.

[Гвалиор]

Люди их и научат

 

Соль ИИ в самообучении. В том что его нельзя будет до конца просчитать!

Думаю ИИ будет существовать-но полного автоматизма в военных сферах думаю не будет-аля терминатор. Тут кстати многое от людей зависит-будет ли ИИ бедой или манной небесной.

Как воспитаем дитя-что оно увидит в нас.

 

Будут терминаторы, управляемые человеком на расстоянии Проекты уже есть.

[MemphisRains]

Будут терминаторы, управляемые человеком на расстоянии Проекты уже есть.

 

Ну а я о чем-человеком, не ИИ управляемые. Под полным афтоматизмом я имел в виду, что машины управляют машинами и тд.

[Гвалиор]

Ну а я о чем-человеком, не ИИ управляемые. Под полным афтоматизмом я имел в виду, что машины управляют машинами и тд.

 

Виноват

 

Что есть человеческий разум? Сие способность логически и творчески мыслить. Машина умеет думать логически - но только по одной логике, машинной, так сказать. Как программа поставлена. Логика человека куда сложней и непредсказуема.

В чём конкретно заключается утопия искусственного интеллекта? Да в том, что человек сможет создать лишь инстинкт как максимум. Инстинкт придумает только один выход на нестандартную ситуацию, и будет и дальше следовать ему. Или машина попросту аварийно завершит работу.

[euro-banan]

Компьютеры не умеют придумывать, вычислять - да.

 

Не знаю никого/ничего, кто умел бы придумывать. Да)

[MemphisRains]

Виноват

 

Что есть человеческий разум? Сие способность логически и творчески мыслить. Машина умеет думать логически - но только по одной логике, машинной, так сказать. Как программа поставлена. Логика человека куда сложней и непредсказуема.

В чём конкретно заключается утопия искусственного интеллекта? Да в том, что человек сможет создать лишь инстинкт как максимум. Инстинкт придумает только один выход на нестандартную ситуацию, и будет и дальше следовать ему. Или машина попросту аварийно завершит работу.

 

Ну а если он будет самообучаться Вспомни Т2-вот т 800 ии-не катит?

[Гвалиор]

del.

[Гвалиор]

Ну а если он будет самообучаться Вспомни Т2-вот т 800 ии-не катит?

 

А там, по сути, всё равно программу заложили - не убивать людей. Если Коннор Т-800 разъяснит, что людей убивать - это хорошо, Т-800 будет убивать людей. Потому что таков приказ его хозяина.

А самообучение... Для начала вопрос: а что есть самообучение? Это самопознание мира, то есть, его самостоятельное изучение, исследование, восприятие. Человека всё-таки отличает тяга к знаниям - он же ищет объяснения тем или иным явлениям. А будет ли машина тянуться к знаниям-то? Да из-за своей логики она попросту не поймёт. И каков должен быть результат? По-моему- действовать больше, чем программой заложено. Если ему задано описать предмет, а он ещё начнёт с ними эксперименты творить (что в программе не предусматривалось) вот тогда можно говорить в некоторой степени о самообучении - тяге к знаниям, а что будет?

[Гвалиор]

В общем, роботы будущего представлены в фильме "Я, робот" (кроме Сонни). Даже Вики - и то одни инстинкты и обнаружение противоречия (с которым мы спокойно живём).

[Beltrop]

Страшное и, казалось бы, фантастическое пророчество обрело реальные черты в 1997 году. Тогда суперкомпьютер Deep Blue, построенный на 256 параллельно работающих процессорах, обыграл в шахматы не кого-нибудь, а самого чемпиона мира Гарри Каспарова. То есть уже кое в чем превзошел.

Любой нормальный студент ИТшник сможет сделать за несколько дней программу самообучающуюся для игры в крестики-нолики. После 5-7 партий программу обыграть нереально- только свести к ничьей (по-моему, из теории игр следует, что при столкновении двух абсолютных игровых гения, игра сводится к ничьей или случайности). Здесь нет ничего фантастического- просто набор правил.

В перспективе [людьми, близкими к тех.наукам, да] если и представляется, то именно так в основном.

Это кем?

[euro-banan]

Это кем?

 

Ну Савельевым. Сергеем Вячеславовичем, например (:

[Бул]

Опять Азамат кинул чего-то на вентилятор, скопипастив несколько тысяч знаков, и внеся крайне информативную фразу от себя

Ну так, что скажете?

Без определения искусственного интеллекта сложно что-то говорить, так как математические и логические задачки компьютер уже решает намного лучше человека.

Критерии в редакцию, критерии!

[azamat]

Без определения искусственного интеллекта сложно что-то говорить, так как математические и логические задачки компьютер уже решает намного лучше человека.

Критерии в редакцию, критерии!

 

Человеческий интеллект способен решать математические и логические задачи, также как и способен чувствовать, т.е. у человеческого интеллекта есть ещё и чувства, ощущения.

[azamat]

10 правил, как построить искусственный интеллект, который не убьет вас