Мозг как нейросеть

Интернет обходит недавнее выступление Ильи Суцкевера (помимо того что он ушёл из OpenAI, у него ещё и h-index 76) о том что биологический мозг это тоже компьютер. Дальше там можно по-разному выкручивать выводы, но одна из трактовок сводится к "А чё вы говорите что нейросети не думают, а думаете ли вы" (это я очень утрирую), и это, в свою очередь, ведёт к интересным рассуждениям.

Первое рассуждение о том что в целом мы как люди привыкли думать о том что мы крутые и уникальные — во всяком случае, если не как индивиды, то хотя бы на уровне вида. Типа жизнь уникальна, больше нигде нет, блаблабла. В этом смысле тяжело допустить мысль что просто очень прикольно обработанный песок может тоже думать так же как мы. Где-то тут радостно икает Гёгель, не иначе.

А другая мысль что можно думать о том, что если допустить тождество "кремниевый мозг" = "наш мозг", то можно применять и практики работы с кремниевым мозгом на наш белковый. Например, когда мы пытаемся понять, какие поглаживания нравятся коту, мы по сути учимся с учителем: кот размечает наше поведение (входные вектора), а мы создаём у себя модель (поправляем веса) по этим размеченным данным (поцарапал ли нас кот или же ему понравилось, как мы его гладили и он урчит). Или же такая штука как "Пересмотр ценностей" может быть просто идеей о том чтобы "Переписать системный промпт".

В этом смысле мне опять вспоминается моя любимая мысль Дугласа Адамса что компьютеры — самые старательные исполнители в мире и похожи на очень глупого, но очень старательного ученика. Компьютеры делают в точности то, что мы им говорим, а не то что мы подразумеваем и всегда находят способы показать тебе что что-то не учтено. Хорошо что на этом этапе пути мы можем продолжать у них учиться.