A tabuleta desenha um quadrado com sua diagonal, e junto à diagonal escreve 1,24,51,10 na base 60. Lido como número, isso é 1 + 24/60 + 51/3600 + 10/216000, e a calculadora o chama de 1.414212962963. √2 é 1.4142135623731, então um escriba que escrevia antes de Euclides, antes de Pitágoras, antes do alfabeto que usamos, acertou seis casas decimais.
As posições sexagesimais não rendem o mesmo que as decimais: três dígitos fracionários depois do ponto e vírgula valem uns seis decimais, e o erro é o terceiro link, 5.99410132196⋅10⁻⁷. A mesma tabuleta traz o número usado como multiplicador: a um quadrado de lado 30 se dá a diagonal 42;25,35, que é exatamente 30 vezes 1;24,51,10, então o escriba tinha uma constante pronta para o caso comum e não só para o quadrado unitário. O que falta é qualquer explicação de por que √2 não pode se escrever exatamente, que é a descoberta que os gregos atribuem a Hipaso.
Resposta
1.414212962963
Como ler
1 + 24/60 + 51/3600 + 10/216000 na calculadora, ou seja o sexagesimal da tabuleta lido como número. √2 mesmo nessa tela é 1.4142135623731.
Fonte
YBC 7289, Old Babylonian clay tablet in the Yale Babylonian Collection, ca. 1800–1600 BCE; the sexagesimal 1;24,51,10 is written beside the square's diagonal
Resolva na calculadora
Estes links abrem a calculadora adequada com os números deste problema já escritos. A linha de cima é o que a tela deveria mostrar: confira você mesmo.