Пятничная философия от неспециалиста.
Живые ли нейросети?
Настолько же живые, насколько мы считаем живыми вирусы. Вирус тоже не имеет сознания, памяти. Даже не имеет самостоятельного механизма развития и репликации. Это просто кусочки ДНК/РНК кода в оболочке, которые реплицируются клеткой организма наряду со своим кодом. Живые ли вирусы? Да, но не очень.
Человек в конце концов тоже всего лишь сверхсложная оболочка для кусочков РНК/ДНК. Получается, степень живости определяется сложностью.
Но не только. «Живее» растений и муравьев нас делает гибкость сознания. Мы продолжаем учиться постоянно, и наш опыт — это не только данные о прошлом, но и изменения в способе принятия решений.
Поэтому, чтобы нейросети стать более живой, нужно сделать так, чтобы она стала гибкой и её модели могли меняться на ходу по результатам предыдущей работы. Чтобы она научилась не только принимать данные своей предыдущей работы в качестве «контекста», чтобы выдать новый результат, но и изменять «обработчик». Переобучаться. Сейчас переобучение большой нейросети — это миллион долларов плюс. Задачу дообучения решают созданием дополнительных модулей рядом с большой нейросетью, которые вытаскивают из неё нужный результат. Но дообучение пока так же делают люди, а не сама нейросеть.