Как функционирует нейронная сеть и в чем ее отличия от нервной системы




В данном видео Сергей Фриз рассказывает о базовых принципах построения искусственных нейросетей, а именно однослойного и многослойного перцептронов, а также об алгоритме обратного распространения ошибок. Он также делает краткую историческую корректировку по развитию нейронных сетей и выражает свою точку зрения о важности уважения к современным искусственным сетям по отношению к нервным системам живых организмов. Видео содержит информацию о том, что программисту нейросети необходимо знать о живых нейронах. Ссылки на курс «Python — это просто», группу VK и поддержку канала также предоставлены. Временные метки для различных разделов видео также указаны.


Напишите статью о Как работает нейросеть и чем она отличается от нервной системы
на на русском языке


Опубликовано

в

от

Метки:

Комментарии

7 комментариев на ««Как функционирует нейронная сеть и в чем ее отличия от нервной системы»»

  1. Аватар пользователя E UOR

    1. Перцептрон Розенблатта (1957) скопировал модель нейрона МакКаллоха-Питца (1943), которые предложили такую модель нейрона лягушки. Подход к использованию таких "нейронов" для решения когнитивных задач назвали коннектионизмом, а попытки решать эти же задачи компьютерным софтом — символизмом.

    2. Живой нейрон человека считывает свою специализацию и поведение (кушать и какать) со своей ДНК. Установление синапсов между нейронами регулируется нейрохимией: нейрон выделяет два типа пептидов — репелленты и аттрактанты. Синапсы тоже двух типов: электрические (мелкие) и химические (крупнее). Нейроны имеют разную форму, зависящую от места (напр. в новой коре есть пирамидные и сцеллатные). Электрические спайки (кратковременная память) приводят к химическому закреплению (долговременная память). Таким образом обучение мозга приводит к прорастанию структур нейронов, на которое влияют два потока — внешние (сенсорные) и внутренние (старая кора). Если проросшие связи повреждаются, человек теряет навсегда проросшую там часть памяти.

    3. Исходя из (2) надо осторожно относиться к каше выращеных в пробирке нейронов.

    4. Психофизиологи называют запоминание в мозге и в коннектионистских сетях ассоциативной памятью, которая имеет ограничение по максимуму запоминеемых паттернов. Для мозга это 300 лет. Для моделей — объем облачных серверов.

    Иначе это предел, после которого наступит ментальная смерть.

  2. Аватар пользователя Николай Федоров

    Привычки, наиболее короткие и самые связные линии между нейронами. Именно так и растут связи между нейронами аксоны сами выстраиваются в пути наиболее короткие для прохождения импульса. Почему спорт и волевое преодоление ментальных трудностей идут бок о бок. Корона синапса является блоком памяти и контроллером синапса, за счёт регуляции нейромедиаторов между синапсами. Сон- наиболее активная стадия реструктуризации памяти.

  3. Аватар пользователя Тихий лётчик

    Вставлю свои пять копеек. Может пригодится, так сказать, информация к размышлению. Насколько я знаю, трёхразрядная архитектура в 1,5 раза производительней двухразрядной архитектуры. Нейрон нашего мозга использует порядка двадцати разрядов. То есть нейрон работая на мегагерцарцах выдаёт производительность как на гигагерцах, а может и выше. И если нейрон это по факту один компьютер, то у каждого в голове у нас сеть интернет порядка в среднем на восемьдесят шесть миллиардов пользователей. Я к тому, что современные нейросети баловство одно и только. Хотя опыт я бы сказал положительный.

  4. Аватар пользователя Чувак

    А прикиньте, если эта чашка пэтри с живыми нейронами, научившимися играть в понг, себя осознает?
    Ну, прямо понимает, где она находится, начинает искать свой путь в этом мире и свое предназначение.
    Потом она подслушивает, что ее создал ученый в белом халате.
    Ну а потом ей нужно будет решить для себя, кем ей будет ее создатель: Богом или отцом

  5. Аватар пользователя Андрій Клінов

    А… Судя по последним слова, вы тоже согласны с тем, что современная нейросеть не бинарная, а математическая, по этому и медленная. Мне кажется все забили на это. Говорят, что ты там ищешь, какие улучшения… Уже все сделали. Все работает отлично… Отлично то да, но можно и лучше. Ведь сеть сейчас не бинарная, а про отсутствие логики вообще молчу. Большой плюс математики над сетью это то что если раньше сеть никогда не видела пример, то она что-то будет угадывать из опыта. Вообще открою секрет как я делал. Ставил буквально несколько точек где считал, что должна быть точка и был еще инструмент "антиточка" — там где не должна быть точка. 15 точек хватало с головой, чтоб описать любой символ. Правильный ответ суммировался +1. Неправильный ответ наказывался (например) -10. Одной ошибки могло быть недостаточно для выхода из цикла проверки, поскольку нижний предел мог быть -12 (например). Если ниже -12, тогда проверяем другой патерн. Время экономится сильно. Распознавания дубликатов музыки. Тоже самое. Если взять мп3 сканировать гистрограму и взять тот же трек, над которым мы поиздевались разными фильтрами, пережали снова в мп3. Два слепка будут выглядеть похоже, но при увеличении можно обнаружить, что точки одни то выше, то ниже (других), то на такт опаздывают, а потом наоборот обгоняют (какой-то как несинхрон). Но возьмем только значения по высоте (Volume). Понятное дело, что сначала приводим два образца к максимализму, чтоб разница громкости была примерно одинаковой. Дальше просто дифференцируем два значения и пропускаем через ABS() чтобы наша разница была плюсовой всегда. А дальше молотим правила: if R<20 then s+=1; if R<40 then s+=0.1; if R<100 S-=50; else S-=200; При if S<-500 смысла продолжать поиска нет. Лучше это время затратить на поиск по смещению по t (или X если по координатам). Поиск дубликата музыки при 80Гб музыки находит приблизительно за 1 секунду!! по такому принципу. Но еще использовалась база данных снимков. Это гистрограмма, где наполняются данные с широким шагом. Если музыка занимает 3-12 Мб, то снимок будет иметь примерно 3000 байт данных в зависимости от длины трека. Такую базу даже пришлось создавать не подключая API баз данных а напрямую через open file as random или binary. Сторонние базы и медленные для такого и у них есть свои ограничения. Например у меня вышла база свыше 2Гб. Майкрософт Access отвалился сразу. Поиск копии мне был нужен для менеджера мп3, который сортировал музыку для музыкального апарата. Вы могли видеть такой когда-то в заведения, где бросали монетку и выбирали музыку и он играл. У меня был тоже такой самодельный. Хорош по своему, но поиск новый музыки и аккуратная сортировка это было утомительно долго. Менеджер умел также работать с разными дибильными подписями, где люди как умели так и писали то с малых букв, то с ошибками, то латынью. Это все прекрасно программа научилась делать, экономя тонну времени. Хотел очень сделать распознавания речи и вот тут я уже не справился с своими знаниями. Уж очень много было переменных, а о нейросети в то время даже не слышал. Но честно и сейчас не нахожу готовых проектов. Ведь все серйозное платное (в оренду). А все чем мы играемся это так просто, им уже не нужно, наигрались. А мы не знаю сможем ли потянуть на таких медленных домашних компах

  6. Аватар пользователя Домашка

    Неверно выразился по поводу, что любой нейрон выдает 1 только в том случае если сумма значимых весовых коэффициентов больше или равна величине смещения! Хотел сказать, что любой нейрон выдает 1 только в том случае если сумма значимых весовых коэффициентов плюс смещение равна или превышает 0!

  7. Аватар пользователя Андрей Балин

    С наступающим 2022 годом!!! Успехов и процветания каналу!!!

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *