Optimization of Large Language Model Energy Consumption through Neuromorphic Hardware Integration

Abstract

The rapid advancement of Large Language Models (LLMs) has ushered in a new era of artificial intelligence characterized by unprecedented natural language understanding and generation capabilities. However, this progress is tethered to a significant environmental and economic cost due to the astronomical energy requirements of training and deploying these models on traditional Von Neumann architectures. This thesis explores the transition from standard graphical processing units to neuromorphic hardware as a primary strategy for energy optimization. By leveraging event-driven processing, spiking neural networks, and non-colocated memory-logic structures, neuromorphic engineering offers a path toward sustainable AI. The discussion centers on the architectural synergy between the attention mechanisms of transformers and the temporal dynamics of neuromorphic systems, proposing a framework for hybrid integration that maintains computational precision while drastically reducing the carbon footprint of industrial-scale machine learning Швидкий розвиток моделей великих мов (LLM) започаткував нову еру штучного інтелекту, що характеризується безпрецедентними можливостями розуміння та генерації природної мови. Однак цей прогрес пов'язаний зі значними екологічними та економічними витратами через астрономічні енергетичні потреби навчання та розгортання цих моделей на традиційних архітектурах фон Неймана. У цій дисертації досліджується перехід від стандартних графічних процесорів до нейроморфного обладнання як основної стратегії оптимізації енергоспоживання. Використовуючи обробку, керовану подіями, пікові нейронні мережі та нерозташовані структури пам'яті-логіки, нейроморфна інженерія пропонує шлях до сталого штучного інтелекту. Обговорення зосереджено на архітектурній синергії між механізмами уваги трансформаторів та часовою динамікою нейроморфних систем, пропонуючи основну структуру для гібридної інтеграції, яка підтримує обчислювальну точність, водночас різко зменшуючи вуглецевий слід машинного навчання промислового масштабу.