Spyke

Syndicated from the fediverse. Read and engage on the original instance.

View original on jlai.lu

12 replies

Bad
jlai.lu

Il y a un sujet de plagiat et de timing qui fait parler en ce moment aussi :

Shortly before the announcement, Tristan Buckmaster (a New York University professor) and Levent Alpöge (a researcher at Anthropic) had reported advances in Euler equations, a related field.[4] A priority dispute started immediately.[14] Buckmaster said that OpenAI adopted their research methods to solve the problem and attempted to exclude Alpöge from a joint publication proposal. OpenAI denied this and stated that its model had independently solved the Euler problem with different methods.[13][4]

Si OpenAI s'est nourri des éléments de recherche de Buckmaster (et Alpöge) sans leur consentement, ça peut complexifier la question de qui sera crédité pour la découverte et qui aura l'argent, et peut-être devenir la source d'une dispute judiciaire plus lourde.

Affaire a suivre (déjà il faudrait que la preuve soit vérifiée dans un premier temps).

6

Ils en parle dans l'article : OpenAI s'est empressé de dire (grands seigneurs) qu'ils renonçaient à l'argent.

4

S'il fonctionne comme Claude, il y a une préférence (opt-out de mémoire?) pour le consentement. S'ils sont aux US, c'est légal.

Je serais très surpris qu'OpenAI n'enregistre pas toutes les conversations, mais je pense que ce serait un risque un petit peu absurde de faire de l'entraînement sur celles où ils n'ont pas reçu le consentement, justement à cause de ce genre de trucs. Après, ce ne serait pas la première chose absurde et non éthique qu'OpenAI ait fait pour un coup de pub. Altman est probablement en mode après moi le déluge, il s'intéresse uniquement à son IPO. Pas impossible qu'il n'ait rien à foutre d'un jugement qui sera rendu deux ans après l'entrée en bourse.

Ce qui est tout à fait possible aussi par contre, c'est que à la fois ce chercheur et OpenAI partent dans la même direction de façon indépendante. Tant qu'on n'aura pas d'obligation de publier les datasets d'entraînement, on aura ce genre de polémiques.

Il y a beaucoup de propositions d'encadrement et de régulation qui n'ont pas trop de sens. Mais sur les datasets, ça permettrait de remettre à plat certaines choses comme le droit du copyright, comme le plagiat et le benchmarking.

Le problème, c'est que leur sauce secrète est a priori pas mal dans le dataset de post-training. Mais on pourrait imaginer un mécanisme dans lequel ils montrent toutes les données sur lesquelles ils se sont entraînés et où ils ont le droit de publier un dataset plus gros que ce qu'ils ont effectivement utilisé afin de cacher leurs secrets commerciaux, mais qu'on puisse constater ce que le modèle a reçu en entrée.

1
jlai.lu

"Les IAs ne sont que des générateurs aléatoires de textes". J'en connais quelques uns qui vont devoir mettre à jour leur compréhension des transformeurs.

2

Il faut reconnaître que ça commence à progresser, on entend beaucoup moins la métaphore du "perroquet stochastique"

1
0xKUMAreply
jlai.lu

Oui alors, pour les mathématiciens ça n'a aucun intérêt vu qu'ils ont pas l'accès au processus complet de la résolution. Les mathématiciens courent pas tant après la résolution d'un problème que le chemin intellectuel qui y est nécessaire.

0
jlai.lu

Pourquoi ils n'auraient pas accès au processus de résolution ?

1
0xKUMAreply
jlai.lu

Parce que le principe des IAg actuels, c'est que c'est une boite noire qui te crache un résultat.

1

Pas les modèles de raisonnements. Ici l'article explique même précisément que de nombreux agents ont développés leur raisonnement en échangeant des millions de messages en language naturel. Ces messages sont en général rendu public, c'était le cas pour la résolution du problème d'Erdoz il y a quelques mois.

1
jlai.lu

Pas résolu, ils montrent qu'en au moins un cas (théorique puisque c'est un fluide strictement incompressible) elle sont non représentative (elles terminent en singularité avec une vitesse infinie).

Pour moi c'est plus mettre le doigt sur la limite de la notion de continuité des fluides (qui est physiquement une approximation).

4
jlai.lu

Ce n'est pas juste "une limite" : ça démontre une impossibilité physique. Une infirmation de l'énoncé est une réponse satisfaisante à la question qu'on se posait (et ça fait un certains temps déjà que la plupart des chercheurs pensaient que les équations étaient "fausses" et cherchaient dans cette direction).

1

Les matheux se posaient la question sur les trucs de continuité, mais c'est sans lien avec la physique.

Les physiciens savaient depuis longtemps que Navier-Stokes déconnait. De par ses hypothèses déjà, le fluide newtonien c'est un modèle très limitatif, la continuité c'est un modèle limitatif. Et puis Navier-Stokes modélise mal les ondes de choc, la tension surfacique, la viscosité c'est total empirique, l'influence thermique dans tout ça faut la rajouter et pourtant elle est essentielle a la dissipation des turbulences...

Mais ça empêche absolument pas de les utiliser (et même de les simplifier encore plus avant utilisation), tout comme on continue a utiliser les équations mécanique simple dans la vie de tous les jours ou les notions quantique et relativité n'ont aucun intérêt.

3

You reached the end