Мультимодальная рекуррентная нейронная сеть
Мультимодальная рекуррентная нейронная сеть (Multimodal Recurrent Neural Network) объединяет входы из двух или более модальностей данных — таких как изображения, текст и аудио — в рамках рекуррентной системы обработки последовательностей. Она кодирует каждую модальность отдельно, объединяет представления и затем обрабатывает комбинированный сигнал с помощью рекуррентных блоков (RNN, LSTM или GRU) для генерации или классификации последовательных выходных данных. Такая архитектура стала основополагающим подходом в генерации описаний изображений, описании видео и аудиовизуальном распознавании речи.
Читать метод полностью
Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.
Карта метода
Окружение родственных методов — выберите узел, чтобы перейти к нему.
Источники
- Vinyals, O., Toshev, A., Bengio, S., & Erhan, D. (2015). Show and Tell: A Neural Image Caption Generator. IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pp. 3156–3164. DOI: 10.1109/CVPR.2015.7298935 ↗
- Ngiam, J., Khosla, A., Kim, M., Nam, J., Lee, H., & Ng, A. Y. (2011). Multimodal Deep Learning. Proceedings of the 28th International Conference on Machine Learning (ICML), pp. 689–696. link ↗
Как цитировать эту страницу
ScholarGate. (2026, June 3). Multimodal Recurrent Neural Network (MM-RNN). ScholarGate. https://scholargate.app/ru/deep-learning/multimodal-recurrent-neural-network
Какой метод?
Поставьте этот метод рядом с ближайшими родственными и прочитайте их бок о бок — библиотека выкладывает книги на стол, а выбор за вами.
- Сверточный рекуррентный блок (GRU)Глубокое обучение↔ сравнить
- Долговременная краткосрочная память (LSTM)Глубокое обучение↔ сравнить
- Мультимодальная классификация на основе BERTГлубокое обучение↔ сравнить
- Мультимодальная сверточная нейронная сетьГлубокое обучение↔ сравнить
- Мультимодальный трансформерГлубокое обучение↔ сравнить
- Рекуррентная нейронная сетьГлубокое обучение↔ сравнить
Упоминается в
Нашли ошибку на этой странице? Сообщите о ней или предложите исправление →