Category: технологии

Category was added automatically. Read all entries about "технологии".

serenity

Естественное мышление и его искусственные зеркала

Начну с вынесения из комментов.

Исходный пост: Учёные создали новую нейронку для распознавания образов, и её сразу же забавно хакнули методом Козьмы Пруткова.

Тред в нём: Авторы модели сразу же огорчились, что их нейронка имеет некоторые нежелательные нейронные связи:
Our model, despite being trained on a curated subset of the internet, still inherits its many unchecked biases and associations.
We have observed, for example, a “Middle East” neuron with an association with terrorism; and an “immigration” neuron that responds to Latin America.


Перевожу на русский: мы обнаружили, что в нашей нейронке нейрон "Ближний Восток" связан с нейроном "терроризм", а нейрон "иммиграция" связан с нейроном "Латинская Америка", аяяй!

Мой коммент в том треде (один из):
Молодец, нейронка! Это одна из её задач (финальная или инструментальная) — искать корреляции.
А что ей на это отвечают?
Могли бы ответить "мы, как самые умные учёные из палаты мер и весов, собрали исчерпывающую статистику по всему миру и установили, что в нём нет такой статистической зависимости, которую нейронка нашла в предложенном датасете".
Но они этого не сказали, а всего лишь сказали: "нам не нравится, что нейронка нашла такую зависимость". Это примерно как негласный (или гласный) запрет называть цвет кожи преступника, если он не белый. Wishful thinking постулирует, что если про этот фактор, отличающий мир от мира розовых пони, не говорить (в том числе не показывать его искусственным нейронкам), то реальный мир превратится в целевой мир розовых пони. Инженерный thinking же говорит, что нейронку хотят заставить не замечать неудобные факты реального мира, отличающие его от мира розовых пони.


Collapse )

Оригинал поста: https://livelight.dreamwidth.org/521968.html. Комментариев на DW: comment count unavailable
starlight

Слава роботам!

В последнее время DW задолбал капчей. Самой стандартной, которая нынче у всех подряд.
И с этой фичей они хотят восприниматься лучше, чем LJ, который мне мозги этим не парит?

Погуглил предложения. Уже предлагают для Хрома (и не только) роботов, предназначенных для обхода надоедающих людям проверок на то, что они не роботы. Правда, пока что за только деньги. И судя по стоимости, это действительно именно роботы, а не работающие за еду в Mechanical Turk люди (тех денег на еду точно не хватит) будут за меня доказывать другим роботам, что я не робот.

В общем, в эту сторону прогресс уже очень давно движется постепенно, и теперь наконец-то ИИ достиг достаточных высот, чтобы диагностировать рак, искать нефть, оптимизировать жизнь городов и целых стран вносить свой вклад в (предполагаемое) глобальное потепление, что-то доказывая другим таким же механическим идиотам. Так победимЪ!

Оригинал поста: https://livelight.dreamwidth.org/507269.html. Комментариев на DW: comment count unavailable
hot

Про мерянье интеллектами

Фотки разобрать не успеваю, что-нибудь накатать - тем более, ну хоть умняк из комментариев вынесу, надо ж с чего-то начинать.

Когда говорят о людях, то "интеллектом" (естественным, которым человек возвышается над дрозофилами всякими) называют обычно развитие 3-его контура по Лири-Уилсону: способность к линейному, последовательному, дискретному, чёткому формальному мышлению -- на всё той же вычислительной базе нейронных сетей, которая есть и у дрозофил: массивно-параллельной, заточенной под нечёткую логику и распознавание искажённых аналоговых образов.

Когда говорят про машины, то "интеллектом" (искусственным) называют развитие в строго противоположном направлении: способность на весьма последовательной (хотя и распараллеливаемой потихоньку), дискретной, чёткой и формальной вычислительной базе логических элементов строить вычисления нечёткие, позволяющие выделять и распознавать аналоговые образы, как бы их ни искажали.

Ну что ж, пока что компьютеры, с самого начала уделавшие людей по скорости и качеству дискретного и последовательного дискурса, не догнали нас по скорости и качеству логики расплывчатой и непоследовательной, что позволяет людям, на ходу переобувшись, называть теперь "интеллектом" именно её и на основании этого брезгливо морщить нос над попытками сделать "искусственный интеллект". Вот когда компьютеры и тут догонят - придётся придумывать для обоснования собственного превосходства что-нибудь ещё. Впрочем, у меня есть несколько идей :)

Оригинал поста: https://livelight.dreamwidth.org/488683.html.
Комментариев на DW: comment count unavailable
serenity

О мудрости

old_ufo подкинул ещё пару ссылочек на обсуждения оных "Методов рациональности":
https://old-ufo.dreamwidth.org/100859.html
https://mortulo.livejournal.com/92709.html
И цитату: "Когда я читаю Юдковского, меня не оставляет ощущение, что я повстречал монстра из ADnD с интеллектом 17 и мудростью 3"

Интеллект - это инструмент, который ищет средства для решения задач (в том числе самых краткосрочных тактических), которые поставлены откуда-то извне, в рамках доступного ему кругозора и горизонта планирования.
Мудрость же - это широкий кругозор, большой горизонт планирования и способность эти самые цели (вплоть до самых долгосрочных) хорошие ставить, а не такие, чтобы исполнения (интеллект постарается) желаний приходилось бояться. А также она может при необходимости подсказывать интеллекту, что некоторые средства могут легко испортить цель.

Это я всё к чему.
Collapse )

Оригинал поста: https://livelight.dreamwidth.org/469916.html.
Комментов там: comment count unavailable
lightning

Автопилот

Самая фишка не в том, что мой даже высокоуровневый ум - это не "я", а в том, что он вполне может осуществлять всю свою высшую нервную деятельность сам по себе, без моего участия. Он итак вполне натренированный, можно за ним почти не приглядывать.

Когда несколько недель назад "я" всё внимание вкладывал в пахоту на тренировках, после чего уже просто уползал, то он на автопилоте не просто шёл от зала до метро, а ещё и поддерживал при этом светскую беседу. Я слышал звук своего голоса, примерно через слово-два после начала фразы переключал внимание на происходящее и смотрел, какой вопрос мне задали, и что я на него отвечаю. Поскольку ответ меня вполне устраивал, то я в этот процесс не вмешивался, а дослушивал свой ответ до конца и уходил вниманием обратно. И так заметно больше одного раза.


PS 2 mortulo: по поводу структурной порочности фразы "тело и разум - единая система" - а как тебе любимый индобуддистами термин "система тело-ум" или вылезший недавно "биоробот"?
Вон он, наш биоробот, как на ладони :)
lightning

Сталкинг эмоций.

Вместо эпиграфа прочтите сей текст :)

На самом деле, всё давным-давно написано у Ксендзюка. Но пан Ксендзюк - он такой, что редкая птица долетит до середины 2-ой книги (я сам где-то посредь 4-ой застрял), а я многим уже обещал это написать, так что перескажу словами попроще.


Collapse )
serenity

Френд- и банполитика

Френжу не людей, а журналы - для регулярного чтения во френдленте, которая является моим любимым источником чтения. Если я добавил твой журнал - значит, чем-то меня заинтересовало то, что ты пишешь, и я собираюсь это читать. Но не могу гарантировать, что оно меня будет интересовать всегда. Иногда по несколько раз добавляю и удаляю одни и те же журналы. Принцип взаимофрендинга не исповедую и от других того не ожидаю.

Френды и друзья - это не одно и то же, хотя иногда они и совпадают. Если я не читаю твой журнал - это не значит, что я к тебе плохо отношусь. Если я читаю какой-то журнал - это не значит, что я разделяю излагаемые в нём взгляды.

Под замок не пишу, так что незафренженные могут прочитать всё то же, что и зафренженные. Права на комментирования у не-френдов такие же, как у френдов, так что незафренженные ничем не дискриминированы, за исключением того, что я их не читаю регулярно.

Спамеров баню. Роботов-френдователей считаю разновидностью спамеров, и обычно тоже баню, чтобы не спамили уведомлениями о зафренде-расфренде. Если я тебя случайно забанил, приняв за такого робота, а ты действительно живой человек, намеренный меня читать и комментировать (до сих пор такого не случалось, но вдруг!) - отпишись в комментах анонимно, я обязательно исправлю это недоразумение.