Đây nguyên là một đoạn của con đường thiên lý nối Thăng Long với xứ Đoài, đường này chạy men theo tường phía Nam của một tòa thành có thể là được đắp khoảng đầu thế kỷ XI (từ năm 1014?) mà dấu vết còn sót lại tới ngày nay là những gờ đất chạy dọc ven phía Bắc đường Kim Mã. Như vậy cũng là đoạn đầu của đường quốc lộ 32 (Hà Nội – Sơn Tây). Đường đi qua đất trại Thủ Lệ thuộc tổng Nội, huyện Vĩnh Thuận, qua đất xã Yên Hòa và Dịch Vọng của huyện Từ Liêm phủ Hoài Đức cũ.
Nay thuộc Ngọc Khánh, quận Ba Đình và phường Quan Hoa, quận Cầu Giấy.
Cầu Giấy là tên một cái cầu bắc qua sông Tô, thuộc địa phận làng Yên Hòa, huyện Từ Liêm, ngoại thành Hà Nội. Làng Yên Hòa xưa tên là Thượng Yên Quyết, nhưng do có nghề làm giấy cổ truyền nên thường gọi là Giấy. Vì vậy mà thành tên cầu. Cầu Giấy vào đời Lý có tên là cầu Tây Dương vì đối diện với cửa Tây Dương của tòa thành vòng ngoài bao quanh kinh thành Thăng Long xưa.
Ngày nay phố Cầu Giấy ở bên phía Đông cầu là ranh giới giữa làng Thủ Lệ (thuộc quận Ba Đình) và làng Yên Lãng (thuộc quận Đống Đa), còn bên phía Đông cầu là đất của làng Dịch Vọng Trung. Trong những năm chồng Pháp cuối thế kỷ XIX tại đầu phố này là chiến lũy của quân ta. Ở ngãy chỗ ngã tư trước cầu vào khoảng năm 1872, Tôn Thất Thuyết đã cho đắp một ụ đất lớn tại đấy để đặt súng “thần công”. Vì vậy chỗ này có tên là Ngã tư Ụ. Cũng nơi đây đã chứng kiến hai lần thất bại thảm hại của thực dân Pháp hồi đó.
Lần thứ nhất, vào ngàu 21/12/1873, quân ta đã phục kích tại đây, tướng giặc là Phư-răng-xi Gác-ni-ê (Francis Garnier) cùng hàng trăm lính Pháp cũng phải đền tội trên dọc phố này và đường Giảng Võ.
Lần thứ hai, trong ngày 19/5/1883, tướng giặc là Hăng-ri Ri-vi-e (henri Rivière) cũng bị chặn đánh tại đây và bỏ mạng cùng nhiều tên khác.
Về di tích lịch sử cổ xưa thì phố Cầu Giấy có ngôi đền Voi Phục nổi tiếng là một thắng cảnh của Thủ đô. Ngoài cửa đền có đắp 2 con voi quỳ phục, do đó mà thành tên gọi, tên chữ là Linh Lang từ vì là nơi thờ thần Linh Lang, một anh hùng đã hy sinh trongkhi chiến đấu bảo vệ Tổ quốc. Đền đã có từ đời Lý (thế kỷ XI). Nhưng qua nhiều lần trùng tu, đền đã không còn giữ được các hiện vật cổ, trừ một phiến đá có vết lõm đặt trong hậu cung tương truyền là từng được dùng làm gối đầu của Linh Lang trước khi hóa. Theo tín ngưỡng dân gian, ngày trước kinh thành Thăng Long có bốn thần trấn giữ bảo vệ bốn phía thì Linh Lang là thần trấn phía tây.
Theo TĐĐP Hà Nội/Người Hà Nội