Cada disco tem um MBR. Basicamente um MBR é O Atalho, é aquela coisa que se se o computador arrancar por esse disco ela será executada. Caso o MBR não tenha nada, o computador escolhe outro perifério para arrancar, por exemplo outro disco ou uma penUSB.
Eu falei do MBR há já bastante tempo num artigo cujos conteúdos não se aplicam a você, mas você poderá ficar a compreender muito melhor o que é o MBR:
Portanto, o que aconteceu aqui, tal como o Miles referiu, foi certamente o seguinte: você ao instalar o Ubuntu provavelmente não instalou no sítio certo o grub, ou se calhar o grub não soube instalar-se no sítio certo.
Se escolheu a maneira manual, na opção a vermelho da imagem ao lado devia ter escolhido o disco externo (e não uma partição desse disco).
Solução para este problema? Sinceramente não sei porque nunca fiz uma coisa destas. Mas posso sugerir duas: a primeira, mais óbvia, é instalar o UBuntu de novo; a segunda é seguir esta solução que não sei se irá funcionar:
Se é iniciante sugiro vivamente que escolha a primeira opção, instalar o Ubuntu. Depois durante a instalação (que recomendo que a faça através de um dos links abaixo) aquando da imagem acima escolha corretamente o disco externo!