Есть тут математики?

[Иван1978]

Кто нибудь может мне помочь простыми словами сказать, что доказывает теорема Цыбенко для нейронной сети распознающей образ? 

https://ru.wikipedia.org/wiki/Теорема_Цыбенко

там внизу есть ссылка на его оригинальный документ, в котором объяснено более подробно на английском языке.

https://web.archive.org/web/20151010204407/http://deeplearning.cs.cmu.edu/pdfs/Cybenko.pdf

я почитал Abstract, но не уверен что моего образования хватает чтобы правильно понять математический язык.

То, что я подумал я пока не хочу писать, потому что со мной просто согласятся.

[mirs]

1 час назад, Иван1978 сказал:

что доказывает теорема Цыбенко

Примерно то же самое, что и теорема Найквиста.

[Никитин]

1 час назад, Иван1978 сказал:

для нейронной сети распознающей образ?

Где в условии написано "распознающей образ?" -- это ты для красного словца добавил?  Ты, видимо, не совсем понимаешь, что такое нейронная сеть. Для тебя НС ассоциируется с неким ИИ, который обязательно распознает образы?

Возьми, в конце концов, бумагу и карандаш и распиши вручную сеть, скажем на 8 нейронов. И посмотри, что там происходит во время обучения и распознавания -- какое тАинство....

При обучении происходит подгонка коэффициентов w (так принято их обозначать) -- примерно тоже самое как и в аппроксимирующем многочлене

f(x) = a_nxⁿ + a_n-1x^n-1 + ... + a₁x;  А поскольку этих самых w очень много, и они завязаны более сложно, чем в полиноме, то естественно предположить, что они могут (их комбинация)  аппроксимировать какую либо функцию.... Примерно так, на пальцах.      

 

[Иван1978]

1 час назад, mirs сказал:

Примерно то же самое, что и теорема Найквиста.

я согласен что выглядят они похоже. Мне вот не совсем понятно про какой входной видеосигнал двумерный ( меня n мерный сигнал не интересует) они говорят. Символы языка например туда входят или нет - иероглифы, русские буквы? Фотографии к этому сигналу относятся? Да или нет?

Изменено 24 Апреля, 2019 в 12:39 пользователем Иван1978

[mirs]

14 минуты назад, Иван1978 сказал:

Мне вот не совсем понятно про какой входной видеосигнал двумерный они говорят.

Обучение начинается примерно с этого

https://ru.wikipedia.org/wiki/Кортеж_(информатика)

[Иван1978]

1 час назад, Никитин сказал:

Где в условии написано "распознающей образ?" -- это ты для красного словца добавил?  Ты, видимо, не совсем понимаешь, что такое нейронная сеть. Для тебя НС ассоциируется с неким ИИ, который обязательно распознает образы?

Возьми, в конце концов, бумагу и карандаш и распиши вручную сеть, скажем на 8 нейронов. И посмотри, что там происходит во время обучения и распознавания -- какое тАинство....

При обучении происходит подгонка коэффициентов w (так принято их обозначать) -- примерно тоже самое как и в аппроксимирующем многочлене

f(x) = a_nxⁿ + a_n-1x^n-1 + ... + a₁x;  А поскольку этих самых w очень много, и они завязаны более сложно, чем в полиноме, то естественно предположить, что они могут (их комбинация)  аппроксимировать какую либо функцию.... Примерно так, на пальцах.      

 

распознающей образ - это просто такая принятая дурацкая фраза я согласен. Дело в том, что эта теорема описывает некоторые свойства перцептрона, а про него говорят что он распознает символы, хотя математически это неверное суждение.

в теореме не написано какую либо функцию, там по другому сказано.

1 час назад, mirs сказал:

Обучение начинается примерно с этого

https://ru.wikipedia.org/wiki/Кортеж_(информатика)

издеваться то зачем.

Изменено 24 Апреля, 2019 в 12:45 пользователем Иван1978

[mirs]

27 минут назад, Иван1978 сказал:

издеваться то зачем.

Плоское изображение нужно вначале масштабировать, потом передвинуть центр масс в начало координат.

Затем перевести в двумерную матрицу. На ваш выбор. Моменты, Фурье, Взаимно корреляционная функция итд.

А затем принять решение.. совпадает или нет.

Изменено 24 Апреля, 2019 в 13:01 пользователем mirs

[Иван1978]

кто нибудь может сказать относятся ли изображения символов и фотографий к этой теореме? простой вопрос. Я согласен, что теорема ничего не говорит о распознавании изображений. ну почти ничего. 

Нейронная сеть к сожалению распознает образы, хотя и не так как человек. Вот например есть сайт где нейронная сеть распознает любую лошадь и спереди и сзади.

https://www.imageidentify.com/

Изменено 24 Апреля, 2019 в 13:28 пользователем Иван1978

[Никитин]

1 час назад, Иван1978 сказал:

в теореме не написано какую либо функцию, там по другому сказано.

В теореме сказано "любую функцию", если не ошибаюсь...

 

49 минут назад, Иван1978 сказал:

Нейронная сеть к сожалению распознает образы, хотя и не так как человек

Сейчас все больше исследователей склоняется, что именно так как мозг (не обязательно человеческий). Изображения в промежуточных слоях многослойной сети разбиваются на некие признаки (группы признаков), все более абстрактные и зависимые от изображения. И именно совокупность этих признаков (так сказать многомерная аппроксимация) и выдает результат на выход... Например если показать НС туловище человека без рук, ног и головы и однотонный (силуэт) то сеть (как впрочем и человек) распознают в этом все, что угодно, но только не человека, но если добавить ноги и руки (силуэты) -- то будет распознан человек. А голова (кстати) может быть "дорисована" НС на основании опыта, полученного при обучении (потому что нет предметов с руками и ногами, но без головы, например ).  Человек точно так же "домысливает" недостающие детали -- называется игра воображения.    

Изменено 24 Апреля, 2019 в 14:11 пользователем Никитин

[Иван1978]

1 час назад, Никитин сказал:

В теореме сказано "любую функцию", если не ошибаюсь...

 

Сейчас все больше исследователей склоняется, что именно так как мозг (не обязательно человеческий). Изображения в промежуточных слоях многослойной сети разбиваются на некие признаки (группы признаков), все более абстрактные и зависимые от изображения. И именно совокупность этих признаков (так сказать многомерная аппроксимация) и выдает результат на выход... Например если показать НС туловище человека без рук, ног и головы и однотонный (силуэт) то сеть (как впрочем и человек) распознают в этом все, что угодно, но только не человека, но если добавить ноги и рука (силуэты) -- то будет распознан человек. А голова (кстати) может быть "дорисована".  Человек "домысливает" недостающие детали -- называется игра воображения.    

не пытайтесь литературно объяснять как она распознает, от этого не становится яснее.

изображения разбиваются на признаки абстрактные

совокупность признаков выдает результат

это ничерта не понятно математически.

чтобы выбрать признаки в изображении надо логику содержать, ну нет никакой логики в нейронной сети - не видно мне.

Изменено 24 Апреля, 2019 в 14:45 пользователем Иван1978