Question

qual elemento que surgiu entre a memoria principal e o processador

Answer 1

Surgiu a memória cache.

Como a memória principal hoje em dia é muito mais lenta do que os processadores, pensou-se em uma forma de agilizar esse acesso. Observou-se que na maioria dos acessos feitos a memória é feito a uma quantidade relativamente pequena de memória. Só de vez em quando outras memórias são acessadas. Então alguém teve a ideia de criar uma memória intermediária que fosse mais rápida que a memória normal (principal). Essa memória seria muito rápida (e portanto mais cara) e por ser cara seria menor. 
Hoje os processadores da classe Intel i (i3, i5 e i7) se diferenciam entre outras coisas pelos tamanhos dos caches de nível 1, 2 e 3