bookmate game
ru
Коллектив авторов

Искусственный интеллект – надежды и опасения

Notify me when the book’s added
To read this book, upload an EPUB or FB2 file to Bookmate. How do I upload a book?
  • Timur Ahmetovhas quoted4 years ago
    робот, умеющий убирать со стола, мыть посуду и ставить ее на полки, станет настоящим прорывом в области ИИ. Объем вычислений, который понадобится при обсчете телесных движений, необходимых для перебрасывания мяча или занятий слаломом, поистине колоссален. Мозг же легко их проделывает, а также позволяет нам заниматься математикой и музыкой и изобретать такие игры, как шахматы и го (а не просто в них играть). Мы склонны недооценивать сложность и креативность человеческого мозга и его удивительные возможности.
  • Timur Ahmetovhas quoted4 years ago
    В целом людям, как известно испокон веков, крайне сложно сообразить, чего именно они хотят, и как раз об этом говорят многочисленные предания о джиннах. Парадигма ИИ, в контексте которой роботы удостаиваются определенной награды извне, не оправдывает себя, когда такая награда не до конца продумана. Она способна подтолкнуть робота к неправильному поведению и даже к противодействию нашим попыткам исправить его поведение, поскольку они чреваты уменьшением вознаграждения.
  • Timur Ahmetovhas quoted4 years ago
    К счастью, эти сценарии сами себя опровергают. Они зависят от допущения, что (1) люди настолько одарены от природы, что могут создать всеведущий и всемогущий искусственный интеллект, но настолько глупы, что уступят ему власть во Вселенной, даже не проверив, как он работает; и что (2) ИИ окажется настолько умен, что сможет постичь, как преобразовывать химические элементы и «перемонтировать» мозг, но настолько глуп, что учинит хаос вследствие элементарных грубых ошибок и непонимания. Возможность выбора действия, которое наилучшим образом соответствует конфликтующим целям, не является неким дополнением к интеллекту, которое инженеры могут забыть установить и протестировать; это сам интеллект. Как и способность интерпретировать интенции носителя языка по контексту высказываний.
  • Timur Ahmetovhas quoted4 years ago
    Отбрасывая фантазии вроде цифровой мании величия, мгновенного всеведения и совершенного знания и контроля за каждой частицей во Вселенной, мы обнаруживаем, что искусственный интеллект схож с любой другой технологией. Он разрабатывается поэтапно, предназначается для удовлетворения многочисленных условий, тестируется перед внедрением и постоянно дорабатывается в целях эффективности и безопасности.
  • Timur Ahmetovhas quoted4 years ago
    Даже вздумай система искусственного интеллекта проявить волю к власти, без сотрудничества людей она останется бессильным мозгом в чане. Суперинтеллектуальная система в своем стремлении к самосовершенствованию должна каким-то образом создавать более быстрые процессоры для работы, моделировать инфраструктуру питания и изготавливать роботизированные устройства для контакта с миром; все это невозможно, если потенциальные жертвы-люди не передадут ей контроль над обширными секторами инженерного пространства. Конечно, всегда можно вообразить некий компьютер Судного дня, злонамеренный, наделенный универсальными возможностями, всегда включенный и защищенный от несанкционированного доступа. Способ борьбы с этой угрозой прост: не создавайте такой компьютер.
  • Timur Ahmetovhas quoted4 years ago
    В физических законах смысл не закодирован, и не стоит пассивно ждать, пока наша Вселенная ниспошлет его нам; давайте признаем и порадуемся, что именно мы, сознательные существа, придаем смысл нашей Вселенной. Давайте созидать наши собственные смыслы, содержащие нечто более важное, нежели наличие рабочих мест. ОИИ может помочь нам наконец-то стать хозяевами своей судьбы.
  • Timur Ahmetovhas quoted4 years ago
    Интеллект сам по себе ни добрый, ни злой, он морально нейтрален. Это лишь способ достигать сложных целей, хороших или плохих. Нельзя утверждать, что все сложилось бы намного лучше, окажись Гитлер умнее. Действительно, откладывать рассмотрение этических вопросов до момента появления ОИИ с согласованными целями было бы безответственно – и потенциально катастрофично. Совершенно послушный сверхразум, цели которого автоматически совпадают с целями творцов-людей, будет похож на нацистского оберштурмбаннфюрера Адольфа Эйхмана на стероидах[80]. Лишенный моральных устоев и собственных ограничений, он с безжалостной эффективностью станет реализовывать цели своего хозяина, каковы бы те ни были.
  • Timur Ahmetovhas quoted4 years ago
    ОИИ способен обеспечить человечеству поистине уникальный уровень процветания. Все, что мне нравится в нашей цивилизации, есть плод интеллекта, а потому, если мы сумеем подкрепить наш собственный интеллект созданием ОИИ, у нас появится возможность справиться с острейшими вызовами сегодняшнего и завтрашнего дня, включая болезни, изменения климата и бедность. Чем детальнее будет наш общий позитивный взгляд на будущее, тем сильнее окажется мотив трудиться вместе над реализацией мечты.
  • Timur Ahmetovhas quoted4 years ago
    мы, люди, узнали, как воспроизводить ряд естественных процессов с помощью машин, создавая собственную тепловую, световую и механическую «лошадиную силу». Постепенно мы осознали, что наши тела также являются машинами, а открытие нервных клеток стерло границу между телом и разумом. Наконец мы начали конструировать машины, способные превзойти нас не только физически, но и ментально. Ныне мы охотно уступили машинам выполнение множества «узких» когнитивных задач – от запоминания и арифметики до игр; мы будем рады, судя по тому, как идут дела, уступить еще больше «сфер влияния» – от вождения автомобилей до инвестиций в медицинскую диагностику. Если сообщество исследователей ИИ преуспеет в реализации своей первоначальной цели (в создании ОИИ), тогда мы, по определению, окажемся избавленными от вообще всех когнитивных задач.
  • Timur Ahmetovhas quoted4 years ago
    мы делаем следующие выводы:
    – человеческий разум возникает из материи;
    – материя есть то, что изучает физика;
    – человеческий разум возникает из физических процессов, которые мы понимаем и можем воспроизводить искусственно;
    – естественный интеллект представляет собой частный случай искусственного интеллекта.
fb2epub
Drag & drop your files (not more than 5 at once)