La novela narra la búsqueda de la poetisa mexicana Cesárea Tinajero, por parte de dos jóvenes poetas y ocasionales vendedores de droga, el chileno Arturo Belano y el también mexicano Ulises Lima. Bolaño utiliza a estos personajes para componer una ficción en la que se mezclan las ciudades y los personajes, en un homenaje a la poesía.

La obra se divide en tres partes. La primera y la última comprenden la búsqueda de Tinajero por parte de Belano, Lima y un joven seguidor, Juan García Madero. En la segunda, un narrador innombrado sigue las pistas de los dos poetas a lo largo de 20 años y recorre el mundo, partiendo del DF, y pisando entre otros lugares, Managua, París, Barcelona, Tel Aviv, Austria y África.

Antes de partir, Lima y Belano forman un grupo, un movimiento de poesía, llamado los real visceralistas, un homenaje al estilo de Tinajero, que se desintegra poco después de su partida. El libro se estructura como una serie de testimonios tomados por un autor desconocido, de los miembros, sus allegados y las personas con las que Lima y Belano tuvieron contacto en sus viajes. Los testimonios, narrados en primera persona, no siguen nigún orden aparente, lo que ha servido a algunos críticos para comparar Los detectives salvajes con Rayuela de Cortazar.

Belano es considerado por algunos críticos como el alter ego de Roberto Bolaño.