Von Neumann bottleneck là gì?

Nút thắt cổ chai von Neumann (von Neumann bottleneck) là một hạn chế về thông lượng (throughput) do kiến ​​trúc máy tính cá nhân tiêu chuẩn gây ra. Thuật ngữ này được đặt theo tên của John von Neumann, người đã phát triển lý thuyết đằng sau kiến ​​trúc của máy tính hiện đại. Trong kiến ​​trúc von Neumann, các chương trình và dữ liệu được lưu giữ trong bộ nhớ (memory); bộ xử lý (processor) và bộ nhớ là tách biệt và dữ liệu di chuyển giữa hai bộ phận này. Trong cấu hình đó độ trễ (latency) là khó tránh khỏi.

Hơn nữa, trong những năm gần đây tốc độ của bộ xử lý đã tăng lên đáng kể. Mặt khác những cải tiến về bộ nhớ chủ yếu nằm ở mật độ (density) - khả năng lưu trữ nhiều dữ liệu hơn trong không gian ít hơn. Khi tốc độ tăng lên bộ xử lý đã dành thời gian nhàn rỗi (idle) ngày càng nhiều để chờ dữ liệu được tìm nạp từ bộ nhớ. Bất kể một bộ xử lý nhất định có thể hoạt động nhanh đến mức nào, trên thực tế nó bị giới hạn ở tốc độ truyền tải cho phép của nút thắt cổ chai (bottleneck). Thông thường một bộ xử lý nhanh hơn chỉ có nghĩa là nó sẽ dành nhiều thời gian nhàn rỗi hơn.

Nút thắt cổ chai von Neumann (von Neumann bottleneck) thường được coi là một vấn đề chỉ có thể được khắc phục thông qua những thay đổi đáng kể đối với kiến ​​trúc máy tính hoặc bộ xử lý. Các phương pháp tiếp cận để vượt qua nút thắt cổ chai von Neumann (von Neumann bottleneck) bao gồm: caching, prefetching, đa luồng (multithreading), loại RAM mới (ví dụ DDR SDRAM), RAMBUS, processing in memory (PIM).