Il nome deriva da Viale Japigia, il principale asse viario del primo nucleo abitativo del quartiere, edificato negli anni 1940 del XX secolo. A sua volta, la strada è intitolata all'antica denominazione dell'area, corrispondente a quasi tutta la Puglia attuale, che dal II millennio e sino al IV secolo avanti Cristo fu abitata dagli Iapigi, una popolazione indoeuropea di probabile origine illirica: il nome venne dato dai Greci, che lo mettevano in relazione con Iapige, figlio di Dedalo.

Nella seconda metà del XX secolo, in concomitanza con l'espansione urbanistica di Bari, il quartiere è stato interessato da un intenso processo edificatorio, che ha via via portato ad un'espansione del nucleo originario in direzione sud.

Il quartiere ospita la gran parte della popolazione della ex V circoscrizione ed è costituito da zone molto differenti fra loro e fisicamente separate:

La zona più antica, vicina al centro, costruita dagli anni quaranta attorno a viale Japigia denominata 'Japigia /Zona Vecchia'
La zona residenziale ad alta densità, costruita a partire dagli anni sessanta formata esclusivamente da palazzi di edilizia popolare disposte nelle vicinanze del Palaflorio e Polivalente, dette 'Japigia45/Zona 45';

Le zone residenziali, costituite principalmente da ville e palazzi moderni, posti nelle porzioni più a sud, esclusivamente a composizione privata.

Nel recente processo edificatorio e di riqualificazione portato avanti dalle ultime amministrazioni cittadine, Japigia ha assunto una connotazione di quartiere diversa da quella di un tempo. Con la realizzazione di nuove piste ciclabili (a partire da Viale Magna Grecia, passando da Via Caldarola sin da quelle presenti al polo studentesco a confine con la Tangenziale di Bari), di aumenti di spazi verdi (realizzazione di giardini e playground) e con la riqualificazione del quartiere costituito da Case popolari, il quartiere negli ultimi anni ha ritrovato un'identità non più strettamente connessa a quella di periferia. Inoltre i recenti lavori di spostamento del fascio dei binari in corso di realizzazione (2019-2025) permetterà al quartiere di ricongiungersi al mare creando nuove viabilità stradali (sottopassi in realizzazione tra Viale Einaudi/Amendola e via Cav. Vittorio Veneto, nuovo ponte Padre Pio).