Fue construida en 1904 por Tomoito Sumitomo, el decimoquinto jefe de la familia Sumitomo, que tenía su sede en Osaka desde el período Edo, y donó el edificio de la biblioteca y fondos para comprar libros. Inicialmente, el nombre era "Biblioteca de Osaka", pero luego se cambió a "Biblioteca Nakanoshima de la prefectura de Osaka". En 1922, las alas izquierda y derecha también fueron donadas y ampliadas al edificio (bienes culturales de importancia nacional). Es un edificio señorial con una estructura de piedra de tres pisos y una cúpula con techo de cobre, y fue diseñado por los arquitectos Magoichi Noguchi y Akira Hidaka del Departamento de Arquitectura Temporal de Sumitomo. La Biblioteca Nakanoshima tiene una colección de documentos antiguos, literatura relacionada con Osaka y libros relacionados con los negocios. Gracias en parte a su ubicación tranquila y conveniente, sigue siendo popular entre investigadores y amantes de los libros casi 100 años después de su finalización.