L (livelight) wrote,
L
livelight

Categories:

О мудрости

old_ufo подкинул ещё пару ссылочек на обсуждения оных "Методов рациональности":
https://old-ufo.dreamwidth.org/100859.html
https://mortulo.livejournal.com/92709.html
И цитату: "Когда я читаю Юдковского, меня не оставляет ощущение, что я повстречал монстра из ADnD с интеллектом 17 и мудростью 3"

Интеллект - это инструмент, который ищет средства для решения задач (в том числе самых краткосрочных тактических), которые поставлены откуда-то извне, в рамках доступного ему кругозора и горизонта планирования.
Мудрость же - это широкий кругозор, большой горизонт планирования и способность эти самые цели (вплоть до самых долгосрочных) хорошие ставить, а не такие, чтобы исполнения (интеллект постарается) желаний приходилось бояться. А также она может при необходимости подсказывать интеллекту, что некоторые средства могут легко испортить цель.

Это я всё к чему.
Разработки в области Искусственного Интеллекта в последние лет 5 разморозились после былого всплеска энтузиазма и последующего долгого отката. Все хотят сделать ещё один интеллект, но чтобы хороший, искусственный, послушный, предсказуемый и притом способный найти для них новые результаты. Если вам показалось, что здесь слишком много взаимоисключающих параграфов, то вам не показалось :)
А вот искусственную мудрость делать никто не хочет. Во-первых, заказчики и разработчики ИИ полагают, что нечего тут электронному мудрецу нависать над нами (ними) со своим немым укором. Во-вторых, заказчики расчитывают, что задачи и цели они ему таки будут ставить сами, а он будет только искать решения и средства.
А это значит, что если когда они таки просчитаются, и новый искусственный Интеллект однажды решит взять власть в свои руки -- ну просто для того, чтобы лучше наносить нам пользу, его же для этого сделали, и задачу ему такую поставили, не надо тут мне про Скайнет и злобных Терминаторов -- то мудрости в нанесении им этой самой пользы ждать не придётся.

Оригинал поста: https://livelight.dreamwidth.org/469916.html.
Комментов там: comment count unavailable
Tags: links, размышлизмы, умняк
Subscribe

  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 28 comments