Quand j'ai acheté mon terrain (il y a plus de 15 ans )les oliviers étaient tous dans le même état que les tiens. Désormais ils produisent (un peu )d'olives tous les 2 ans.

D'après ce que je vois tu as une belle branche qui part du pied.
Pour moi la meilleurs solution est de couper le tronc et laisser seulement cette branche.
Elle deviendra ( en 8 ou 9 ans...) une belle charpentière.
Tu tailles en mars de façon à donner une forme, tu fumes largement au pied et tu t'armes de patience...L'espace laissé en 2 branches c'est la taille "d'une pogne" c'est à dire d'un poing fermé.

Tu ne le laisses pas monter en hauteur, ne pas hésiter à rabattre.
En général sur ces vieux pieds il n'y avait pas de greffe donc tu ne risque pas grand chose.