Category: технологии

Category was added automatically. Read all entries about "технологии".

lightning

И ещё о роботах

Занятная новость: Пользователи Facebook нашли способ связаться с техподдержкой: купить шлем Oculus за $299 (а потом сдать его обратно в магазин нераспакованным и получить возврат денег)

Можно сказать, хакнули систему: нашли у пёсбука свежекупленный отдел, который ещё не успел соптимизировать всех живых людей и способен на какие-то осмысленные действия.

В этом плане, конечно, пёсбук - далеко не единственный.
Недавно жена с огромным удивлением обнаружила, что один банк, который раздаёт чорные карточки, начал работать на удалёнке ещё до того, как это стало мейнстримом, и вообще не имеет живых офисов, притом до сих пор имеет живую(!) техподдержку, которая моментально отвечает на запросы и решает проблемы. Даже непривычно как-то в наше время.

Collapse )

Оригинал поста: https://livelight.dreamwidth.org/531432.html. Комментариев на DW: comment count unavailable
lightning

Нулевой закон бототехники

Обсуждают, кого и как забанили на фейсбуке.

Комментатор: Мне написали предупреждение за фразу "я думаю, что этот закон нельзя считать расистким, поскольку в его основе не суждение о том, что арабы хуже евреев". Бот среагировал на слова "арабы/евреи" и "хуже" :)

Я: Надо совершить акт virtue signalling. Напишите в фейсбуке пост: "я считаю, что надо забанить в фейсбуке всех, кто заявляет, что арабы хуже евреев" :)


Похоже, Закон По уже приобрёл статус нулевого закона робототехники(*). Выше первого.

Collapse )

Оригинал поста: https://livelight.dreamwidth.org/528956.html. Комментариев на DW: comment count unavailable
serenity

Естественное мышление и его искусственные зеркала

Начну с вынесения из комментов.

Исходный пост: Учёные создали новую нейронку для распознавания образов, и её сразу же забавно хакнули методом Козьмы Пруткова.

Тред в нём: Авторы модели сразу же огорчились, что их нейронка имеет некоторые нежелательные нейронные связи:
Our model, despite being trained on a curated subset of the internet, still inherits its many unchecked biases and associations.
We have observed, for example, a “Middle East” neuron with an association with terrorism; and an “immigration” neuron that responds to Latin America.


Перевожу на русский: мы обнаружили, что в нашей нейронке нейрон "Ближний Восток" связан с нейроном "терроризм", а нейрон "иммиграция" связан с нейроном "Латинская Америка", аяяй!

Мой коммент в том треде (один из):
Молодец, нейронка! Это одна из её задач (финальная или инструментальная) — искать корреляции.
А что ей на это отвечают?
Могли бы ответить "мы, как самые умные учёные из палаты мер и весов, собрали исчерпывающую статистику по всему миру и установили, что в нём нет такой статистической зависимости, которую нейронка нашла в предложенном датасете".
Но они этого не сказали, а всего лишь сказали: "нам не нравится, что нейронка нашла такую зависимость". Это примерно как негласный (или гласный) запрет называть цвет кожи преступника, если он не белый. Wishful thinking постулирует, что если про этот фактор, отличающий мир от мира розовых пони, не говорить (в том числе не показывать его искусственным нейронкам), то реальный мир превратится в целевой мир розовых пони. Инженерный thinking же говорит, что нейронку хотят заставить не замечать неудобные факты реального мира, отличающие его от мира розовых пони.


Collapse )

Оригинал поста: https://livelight.dreamwidth.org/521968.html. Комментариев на DW: comment count unavailable
starlight

Слава роботам!

В последнее время DW задолбал капчей. Самой стандартной, которая нынче у всех подряд.
И с этой фичей они хотят восприниматься лучше, чем LJ, который мне мозги этим не парит?

Погуглил предложения. Уже предлагают для Хрома (и не только) роботов, предназначенных для обхода надоедающих людям проверок на то, что они не роботы. Правда, пока что за только деньги. И судя по стоимости, это действительно именно роботы, а не работающие за еду в Mechanical Turk люди (тех денег на еду точно не хватит) будут за меня доказывать другим роботам, что я не робот.

В общем, в эту сторону прогресс уже очень давно движется постепенно, и теперь наконец-то ИИ достиг достаточных высот, чтобы диагностировать рак, искать нефть, оптимизировать жизнь городов и целых стран вносить свой вклад в (предполагаемое) глобальное потепление, что-то доказывая другим таким же механическим идиотам. Так победимЪ!

Оригинал поста: https://livelight.dreamwidth.org/507269.html. Комментариев на DW: comment count unavailable
hot

Про мерянье интеллектами

Фотки разобрать не успеваю, что-нибудь накатать - тем более, ну хоть умняк из комментариев вынесу, надо ж с чего-то начинать.

Когда говорят о людях, то "интеллектом" (естественным, которым человек возвышается над дрозофилами всякими) называют обычно развитие 3-его контура по Лири-Уилсону: способность к линейному, последовательному, дискретному, чёткому формальному мышлению -- на всё той же вычислительной базе нейронных сетей, которая есть и у дрозофил: массивно-параллельной, заточенной под нечёткую логику и распознавание искажённых аналоговых образов.

Когда говорят про машины, то "интеллектом" (искусственным) называют развитие в строго противоположном направлении: способность на весьма последовательной (хотя и распараллеливаемой потихоньку), дискретной, чёткой и формальной вычислительной базе логических элементов строить вычисления нечёткие, позволяющие выделять и распознавать аналоговые образы, как бы их ни искажали.

Ну что ж, пока что компьютеры, с самого начала уделавшие людей по скорости и качеству дискретного и последовательного дискурса, не догнали нас по скорости и качеству логики расплывчатой и непоследовательной, что позволяет людям, на ходу переобувшись, называть теперь "интеллектом" именно её и на основании этого брезгливо морщить нос над попытками сделать "искусственный интеллект". Вот когда компьютеры и тут догонят - придётся придумывать для обоснования собственного превосходства что-нибудь ещё. Впрочем, у меня есть несколько идей :)

Оригинал поста: https://livelight.dreamwidth.org/488683.html.
Комментариев на DW: comment count unavailable
serenity

О мудрости

old_ufo подкинул ещё пару ссылочек на обсуждения оных "Методов рациональности":
https://old-ufo.dreamwidth.org/100859.html
https://mortulo.livejournal.com/92709.html
И цитату: "Когда я читаю Юдковского, меня не оставляет ощущение, что я повстречал монстра из ADnD с интеллектом 17 и мудростью 3"

Интеллект - это инструмент, который ищет средства для решения задач (в том числе самых краткосрочных тактических), которые поставлены откуда-то извне, в рамках доступного ему кругозора и горизонта планирования.
Мудрость же - это широкий кругозор, большой горизонт планирования и способность эти самые цели (вплоть до самых долгосрочных) хорошие ставить, а не такие, чтобы исполнения (интеллект постарается) желаний приходилось бояться. А также она может при необходимости подсказывать интеллекту, что некоторые средства могут легко испортить цель.

Это я всё к чему.
Collapse )

Оригинал поста: https://livelight.dreamwidth.org/469916.html.
Комментов там: comment count unavailable
lightning

Автопилот

Самая фишка не в том, что мой даже высокоуровневый ум - это не "я", а в том, что он вполне может осуществлять всю свою высшую нервную деятельность сам по себе, без моего участия. Он итак вполне натренированный, можно за ним почти не приглядывать.

Когда несколько недель назад "я" всё внимание вкладывал в пахоту на тренировках, после чего уже просто уползал, то он на автопилоте не просто шёл от зала до метро, а ещё и поддерживал при этом светскую беседу. Я слышал звук своего голоса, примерно через слово-два после начала фразы переключал внимание на происходящее и смотрел, какой вопрос мне задали, и что я на него отвечаю. Поскольку ответ меня вполне устраивал, то я в этот процесс не вмешивался, а дослушивал свой ответ до конца и уходил вниманием обратно. И так заметно больше одного раза.


PS 2 mortulo: по поводу структурной порочности фразы "тело и разум - единая система" - а как тебе любимый индобуддистами термин "система тело-ум" или вылезший недавно "биоробот"?
Вон он, наш биоробот, как на ладони :)
lightning

Сталкинг эмоций.

Вместо эпиграфа прочтите сей текст :)

На самом деле, всё давным-давно написано у Ксендзюка. Но пан Ксендзюк - он такой, что редкая птица долетит до середины 2-ой книги (я сам где-то посредь 4-ой застрял), а я многим уже обещал это написать, так что перескажу словами попроще.


Collapse )
serenity

Френд- и банполитика

Френжу не людей, а журналы - для регулярного чтения во френдленте, которая является моим любимым источником чтения. Если я добавил твой журнал - значит, чем-то меня заинтересовало то, что ты пишешь, и я собираюсь это читать. Но не могу гарантировать, что оно меня будет интересовать всегда. Иногда по несколько раз добавляю и удаляю одни и те же журналы. Принцип взаимофрендинга не исповедую и от других того не ожидаю.

Френды и друзья - это не одно и то же, хотя иногда они и совпадают. Если я не читаю твой журнал - это не значит, что я к тебе плохо отношусь. Если я читаю какой-то журнал - это не значит, что я разделяю излагаемые в нём взгляды.

Под замок не пишу, так что незафренженные могут прочитать всё то же, что и зафренженные. Права на комментирования у не-френдов такие же, как у френдов, так что незафренженные ничем не дискриминированы, за исключением того, что я их не читаю регулярно.

Спамеров баню. Роботов-френдователей считаю разновидностью спамеров, и обычно тоже баню, чтобы не спамили уведомлениями о зафренде-расфренде. Если я тебя случайно забанил, приняв за такого робота, а ты действительно живой человек, намеренный меня читать и комментировать (до сих пор такого не случалось, но вдруг!) - отпишись в комментах анонимно, я обязательно исправлю это недоразумение.