Почему не используется эволюционный дизайн архитектуры нейросети?

Сейчас архитектуру разрабатывает человек, а сеть только оптимизирует параметры с жестко заданной структурой.

Почему не используют поиск архитектуры - пусть сеть сама ищет какую форму ей лучше принять.

Точнее, такие сети тоже используют, но только очень простые, из пары десятков нейронов максимум (что я видел по крайней мере). Почему на мощных сетях не используют? Мощностей пока не хватает, или в чем-то другом дело?

Потому что главврач Маргулис телевизор запретил

Думаю, пока ещё не придумали настолько умных алгоритмов. Очень сложная задача.

Фантастика на другом форуме.

private

Сейчас архитектуру разрабатывает человек, а сеть только оптимизирует параметры с жестко заданной структурой. Почему не используют поиск архитектуры - пусть сеть сама ищет какую форму ей лучше принять. Точнее, такие сети тоже используют, но только очень простые, из пары десятков нейронов максимум (что я видел по крайней мере). Почему на мощных сетях не используют? Мощностей пока не хватает, или в чем-то другом дело?

Всё банально, фактически все сети на данный момент это оптимизаторы уравнений. Задавая конфигурацию ты задаёшь уравнение для которого можно подобрать коэффициенты, и ничего больше. Возьми колоночку X,Y произвольных данных в экселе, построй график зависимости Y(X) и попробуй подобрать алгоритм линии тренда - поймёшь в чём проблема

private
Почему не используют поиск архитектуры - пусть сеть сама ищет какую форму ей лучше принять.

Используют в плане подбора числа промежуточных нейронов и типа сети. А для определения входов и выходов пока еще нужна прокладка между креслом и монитором.

автор
Используют в плане подбора числа промежуточных нейронов и типа сети. А для определения входов и выходов пока еще нужна прокладка между креслом и монитором.

Оптимизация гирпер-параметров? Это немного не то. Это поиск небольших вариаций опять-же в рамках заданной архитектуры.

Хотя нет. Гугл оказывается делает такое https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html

Но видимо да, пока что не хватает мощностей и такое под силу только монстрам типа гугла с огромными фермами машин.