Il problema non è correttamente formulato: infatti se massimizziamo l’area nell’intera classe dei poligoni non abbiamo soluzione, perché l’area può crescere arbitrariamente se il poligono diventa arbitrariamente grande.
Il vincolo più classico che si mette per questo genere di questioni, detti anche problemi isoperimetrici, è la richiesta che il perimetro del poligono sia fissato. In questo modo il problema diventa non banale. In tal caso però il teorema dice qualcosa di più sulla struttura della soluzione; più precisamente tra tutti i poligoni di n lati che hanno lo stesso perimetro quello che racchiude la massima area è quello regolare.
L’autore, con ogni probabilità, ha lasciato sottinteso invece il vincolo sulla lunghezza di ciascun lato. Allora in questo caso si ha un teorema più debole:
Teorema: Tra tutti i poligoni di n lati che hanno le lunghezze dei lati fissate quello che racchiude la massima area è inscrivibile in una circonferenza.
Tale affermazione non ha bisogno di dimostrazione nel caso dei triangoli, essendo vero che ogni triangolo è inscrivibile in una circonferenza. Per quanto riguarda il caso dei quadrilateri, come affermato dall’autore della domanda il Teorema è un’immediata conseguenza della formula di Brahmagupta per i quadrilateri:
A2 = (p-a)(p-b)(p-c)(p-d) – abcd cos2θ (1)
dove A è l’area, p è il semiperimetro, a,b,c,d sono le lunghezze dei lati e θ è la metà della somma di due angoli opposti (osserviamo che non importa quale coppia di angoli opposti si prenda, in ogni caso cos θ non cambia). Il Teorema è a questo punto quasi immediato: infatti per ipotesi la formula (1) assume la forma
A2 = c1-c2 cos2θ
per certe costanti positive c1 e c2. Ne segue che A è massima se e solo se A2 è massima se e solo se cos θ = 0. Dunque θ è un angolo retto, e dunque la somma degli angoli opposti nel quadrilatero dato vale 180 gradi. Per una ben note proprietà dei quadrilateri questo fatto implica che il quadrilatero sia inscrivibile in una circonferenza.
Non esiste, almeno in mia conoscenza, un’analoga formula per un poligono di n lati con n>4 (la formula di Brahmagupta nel caso dei triangoli, invece, diventa la ben nota formula di Erone: basta considerare il limite, per esempio, d→0). La dimostrazione del Teorema dato nel caso n>4 discende però facilmente dal caso n=4; quindi l’essenza del Teorema sta, per certi versi, nel caso dei quadrilateri. Consideriamo infatti un poligono di n lati, con n>4, in cui l’area sia massimale tra tutti quelli in cui sono fissate le lunghezze dei lati. Prendiamo quattro vertici consecutivi, A, B, C e D. Possiamo ovviamente supporre che A,B,C e D siano non allineati. I vertici A,B e C stanno su una circonferenza, essendo tre vertici di un triangolo. Il quadrilatero ABCD ha certamente area massima tra tutti quelli che hanno le lunghezze dei quattro lati fissate: infatti se così non fosse tenendo fissa la corda AD si potrebbero muovere i punti B e C ed aumentare l’area, che violerebbe la massimalità dell’area del poligono dato. Ne segue, per quanto visto nel caso n=4, che D giace sulla circonferenza individuata da A,B e C. In modo analogo si prosegue con i vertici successivi.