Исследователи имитируют человеческий мозг для создания нейронной сети с низким энергопотреблением

Нейронные сети - или искусственные копии человеческого мозга - позволяют ученым и инженерам проводить анализ, который занял бы годы людей. Они могут пролистывать бесконечные таблицы данных и указывать на расхождения в изображениях, которые могут остаться незамеченными людьми.

Однако у них есть один недостаток: лучшие нейронные сети в игре используют невероятное количество энергии для своей работы.

«Несколько лет назад IBM пыталась смоделировать мозговую активность кошки в суперкомпьютере, и в итоге они потребляли мегаватты энергии», - говорит исследователь университета Пердью Абронил Сенгупта. обратный, «Биологический человеческий мозг потребляет далеко не так много. Это не прямое сравнение с нейронной сетью, но оно должно дать вам оценку того, насколько энергоемки вычислительные системы ».

Сенгупта и команда компьютерных ученых из Университета Пердью и Института инженеров по электротехнике и электронике (IEEE) придумали способ заставить нейронные сети потреблять намного меньше энергии, но при этом делать потрясающую работу. Документ, который они разместили на сайте препринта arXiv, объясняет, как они черпали вдохновение из человеческого мозга и реализовали свою идею, чтобы позволить их нейронной сети потреблять примерно в 11 раз меньше энергии, чем традиционные системы.

Их подход использует всплеск нейронных сетей или SNN. В отличие от своих аналогов, эти вычислительные системы гораздо более точно имитируют биологические нейроны.

Стандартные нейронные сети состоят из тысяч узлов, используемых для принятия решений и суждений о представляемых им данных. Вывод из них зависит только от того, что в настоящее время представляется, в то время как вывод SNN зависит также от предыдущих стимулов. Узлы в SNN будут работать только при достижении определенного уровня стимула. Так что вместо постоянно передавая данные на другие узлы, узлы SNN передают информацию только тогда, когда они должен.

Обычно это связано с огромными затратами энергии, поскольку большинство этих систем изготавливаются с использованием так называемой комплементарной технологии металл-оксид-полупроводники или КМОП. Эта технология составляет все чипы в вашем ноутбуке и использовалась в качестве строительных блоков для нейронных сетей. Для их исследования группа исследователей отказалась от технологии CMOS и построила SNN, сделанную полностью из мемристоров.

Сокращенно от «резисторов памяти», электрическое сопротивление мемристоров зависит от того, сколько электрического заряда прошло через него в прошлом. Таким образом, в отличие от технологии CMOS, он способен «помнить», что проходило через него раньше, и это именно то, что нужно делать узлам в SNN.

Результаты исследования показали, что мемристоры очень хорошо имитируют биологический нейрон. Они общаются друг с другом, используя всплески или короткие всплески энергии, в отличие от постоянного потока энергии. Этот мемристор-SNN имел небольшое снижение точности, когда он использовался для классификации изображений, по сравнению с его аналогами CMOS, но потребовалась доля нейронных сетей стандарта мощности.

До этого исследования SNN были самым близким к искусственному человеческому мозгу, который у нас был, но огромное количество энергии, которое они использовали, сводило на нет некоторые из их преимуществ. Если другие ученые смогут воспроизвести эти энергосберегающие нейронные сети, это позволит им делать больше с меньшими затратами энергии и приблизит их к пониманию того, как копировать биологический мозг.