A Ilha do Ibo é um dos mais antigos assentamentos em Moçambique, a sua história remonta pelo menos ao século XVI. Os mercadores árabes já haviam começado cerca 600 d.C. o comércio de escravos, de ouro e marfim com os habitantes locais e dos arredores.
Em 1498 Vasco da Gama chegou pela primeira vez às Quirimbas e em 1522 os Portugueses atacaram as ilhas, destruindo as fortificações.
Por volta de 1590 o Português tinha anexado sete das nove ilhas grandes, enquanto que apenas duas ainda continuavam sendo governadas por muçulmanos; a Ilha do Ibo negociava principalmente âmbar, marfim e conxas de tartaruga.

Vasco da Gama escolheu o Ibo como base principal para as suas reservas de água doce natural recolhidas durantes as chuvas anuais. Isso permitiu aumentar o número de bovinos, suínos e caprinos na ilha. Vários produtos agrícolas foram exportados e também a Ilha de Moçambique era fornecida pelo Ibo.

Em meados do século XVII, o arquipélago era governado por duas famílias principais "Mzungu" (branco) - Morues e Meneses, e a ilha de Ibo tornou-se o centro comercial de todas as outras ilhas.
No final do século XVIII, os portugueses construíram o Forte de João, que ainda se encontra na ilha, enquanto a cidade representava uma porta para o tráfico de escravos, impulsionada pela demanda francesa devido à mão-de-obra de baixo custo.
Ibo tornou-se, assim, o segundo mais importante posto avançado na região, depois da Ilha de Moçambique.

O forte de São João Batista foi concluído em 1791. A pequena capela alojada no interior da fortaleza foi construída em 1795, seguido pelo forte de Santo António e o forte do Bairro Rituto em 1847, que determinam até hoje a forma triangular da cidade velha.
Ao longo dos séculos XVIII e XIX, as pessoas do Ibo e as regiões adjacentes foram constantemente atacadas pelas forças holandesas e malgaxes.
Em 1897, Ibo, foi integrada na administração da Companhia do Niassa, e foi a partir desse momento que a ilha e os habitantes locais começaram a desfrutar duma relativa paz e segurança.

Em 1902, a capital do distrito de Cabo Delgado foi transferida da Ilha do Ibo para Porto Amélia, rebaptizada após a independência do país, Pemba, que ainda hoje é a capital provincial. Este foi o início do declínio do comércio do Ibo, que lentamente se mudou para Pemba, uma cidade que oferecia uma bahía e um porto mais profundos. Posteriormente, a guerra civil deu o golpe final no Ibo e todos os exemplos de arquictetura portuguesa dos séculos XIX e XX começaram a degradar-se lentamente, enquanto o Ibo se tornou numa cidade fantasma.

Em 2002, foi criado o Parque Nacional das Quirimbas e com ele Ibo acordou de uma longa hibernação, abrindo, finalmente, as suas portas ao turismo. Isso deu um novo impulso à economia local e para à conservação, preservação e restauração do legado existente da sua fascinante história.
Hoje a Ilha do Ibo, graças ao seu rico passado e à sua arquitetura imperial ainda maravilhosamente preservada, graças à singularidade da sua arte local, às suas paisagens e às cores vermelhas do seu pôr-do-sol, está concorrendo à nomeação de Património Mundial do UNESCO.