Merge tag 'for-linus' of git://github.com/openrisc/linux
[linux-2.6-microblaze.git] / drivers / base / core.c
index d661ada..25e08e5 100644 (file)
@@ -46,15 +46,108 @@ early_param("sysfs.deprecated", sysfs_deprecated_setup);
 #endif
 
 /* Device links support. */
-static LIST_HEAD(wait_for_suppliers);
-static DEFINE_MUTEX(wfs_lock);
 static LIST_HEAD(deferred_sync);
 static unsigned int defer_sync_state_count = 1;
-static unsigned int defer_fw_devlink_count;
-static LIST_HEAD(deferred_fw_devlink);
-static DEFINE_MUTEX(defer_fw_devlink_lock);
+static DEFINE_MUTEX(fwnode_link_lock);
 static bool fw_devlink_is_permissive(void);
 
+/**
+ * fwnode_link_add - Create a link between two fwnode_handles.
+ * @con: Consumer end of the link.
+ * @sup: Supplier end of the link.
+ *
+ * Create a fwnode link between fwnode handles @con and @sup. The fwnode link
+ * represents the detail that the firmware lists @sup fwnode as supplying a
+ * resource to @con.
+ *
+ * The driver core will use the fwnode link to create a device link between the
+ * two device objects corresponding to @con and @sup when they are created. The
+ * driver core will automatically delete the fwnode link between @con and @sup
+ * after doing that.
+ *
+ * Attempts to create duplicate links between the same pair of fwnode handles
+ * are ignored and there is no reference counting.
+ */
+int fwnode_link_add(struct fwnode_handle *con, struct fwnode_handle *sup)
+{
+       struct fwnode_link *link;
+       int ret = 0;
+
+       mutex_lock(&fwnode_link_lock);
+
+       list_for_each_entry(link, &sup->consumers, s_hook)
+               if (link->consumer == con)
+                       goto out;
+
+       link = kzalloc(sizeof(*link), GFP_KERNEL);
+       if (!link) {
+               ret = -ENOMEM;
+               goto out;
+       }
+
+       link->supplier = sup;
+       INIT_LIST_HEAD(&link->s_hook);
+       link->consumer = con;
+       INIT_LIST_HEAD(&link->c_hook);
+
+       list_add(&link->s_hook, &sup->consumers);
+       list_add(&link->c_hook, &con->suppliers);
+out:
+       mutex_unlock(&fwnode_link_lock);
+
+       return ret;
+}
+
+/**
+ * fwnode_links_purge_suppliers - Delete all supplier links of fwnode_handle.
+ * @fwnode: fwnode whose supplier links need to be deleted
+ *
+ * Deletes all supplier links connecting directly to @fwnode.
+ */
+static void fwnode_links_purge_suppliers(struct fwnode_handle *fwnode)
+{
+       struct fwnode_link *link, *tmp;
+
+       mutex_lock(&fwnode_link_lock);
+       list_for_each_entry_safe(link, tmp, &fwnode->suppliers, c_hook) {
+               list_del(&link->s_hook);
+               list_del(&link->c_hook);
+               kfree(link);
+       }
+       mutex_unlock(&fwnode_link_lock);
+}
+
+/**
+ * fwnode_links_purge_consumers - Delete all consumer links of fwnode_handle.
+ * @fwnode: fwnode whose consumer links need to be deleted
+ *
+ * Deletes all consumer links connecting directly to @fwnode.
+ */
+static void fwnode_links_purge_consumers(struct fwnode_handle *fwnode)
+{
+       struct fwnode_link *link, *tmp;
+
+       mutex_lock(&fwnode_link_lock);
+       list_for_each_entry_safe(link, tmp, &fwnode->consumers, s_hook) {
+               list_del(&link->s_hook);
+               list_del(&link->c_hook);
+               kfree(link);
+       }
+       mutex_unlock(&fwnode_link_lock);
+}
+
+/**
+ * fwnode_links_purge - Delete all links connected to a fwnode_handle.
+ * @fwnode: fwnode whose links needs to be deleted
+ *
+ * Deletes all links connecting directly to a fwnode.
+ */
+void fwnode_links_purge(struct fwnode_handle *fwnode)
+{
+       fwnode_links_purge_suppliers(fwnode);
+       fwnode_links_purge_consumers(fwnode);
+}
+
 #ifdef CONFIG_SRCU
 static DEFINE_MUTEX(device_links_lock);
 DEFINE_STATIC_SRCU(device_links_srcu);
@@ -468,7 +561,7 @@ postcore_initcall(devlink_class_init);
  * with runtime PM.  First, setting the DL_FLAG_PM_RUNTIME flag will cause the
  * runtime PM framework to take the link into account.  Second, if the
  * DL_FLAG_RPM_ACTIVE flag is set in addition to it, the supplier devices will
- * be forced into the active metastate and reference-counted upon the creation
+ * be forced into the active meta state and reference-counted upon the creation
  * of the link.  If DL_FLAG_PM_RUNTIME is not set, DL_FLAG_RPM_ACTIVE will be
  * ignored.
  *
@@ -491,7 +584,7 @@ postcore_initcall(devlink_class_init);
  * Also, if DL_FLAG_STATELESS, DL_FLAG_AUTOREMOVE_CONSUMER and
  * DL_FLAG_AUTOREMOVE_SUPPLIER are not set in @flags (that is, a persistent
  * managed device link is being added), the DL_FLAG_AUTOPROBE_CONSUMER flag can
- * be used to request the driver core to automaticall probe for a consmer
+ * be used to request the driver core to automatically probe for a consumer
  * driver after successfully binding a driver to the supplier device.
  *
  * The combination of DL_FLAG_STATELESS and one of DL_FLAG_AUTOREMOVE_CONSUMER,
@@ -555,6 +648,17 @@ struct device_link *device_link_add(struct device *consumer,
                goto out;
        }
 
+       /*
+        * SYNC_STATE_ONLY links are useless once a consumer device has probed.
+        * So, only create it if the consumer hasn't probed yet.
+        */
+       if (flags & DL_FLAG_SYNC_STATE_ONLY &&
+           consumer->links.status != DL_DEV_NO_DRIVER &&
+           consumer->links.status != DL_DEV_PROBING) {
+               link = NULL;
+               goto out;
+       }
+
        /*
         * DL_FLAG_AUTOREMOVE_SUPPLIER indicates that the link will be needed
         * longer than for DL_FLAG_AUTOREMOVE_CONSUMER and setting them both
@@ -697,74 +801,6 @@ out:
 }
 EXPORT_SYMBOL_GPL(device_link_add);
 
-/**
- * device_link_wait_for_supplier - Add device to wait_for_suppliers list
- * @consumer: Consumer device
- *
- * Marks the @consumer device as waiting for suppliers to become available by
- * adding it to the wait_for_suppliers list. The consumer device will never be
- * probed until it's removed from the wait_for_suppliers list.
- *
- * The caller is responsible for adding the links to the supplier devices once
- * they are available and removing the @consumer device from the
- * wait_for_suppliers list once links to all the suppliers have been created.
- *
- * This function is NOT meant to be called from the probe function of the
- * consumer but rather from code that creates/adds the consumer device.
- */
-static void device_link_wait_for_supplier(struct device *consumer,
-                                         bool need_for_probe)
-{
-       mutex_lock(&wfs_lock);
-       list_add_tail(&consumer->links.needs_suppliers, &wait_for_suppliers);
-       consumer->links.need_for_probe = need_for_probe;
-       mutex_unlock(&wfs_lock);
-}
-
-static void device_link_wait_for_mandatory_supplier(struct device *consumer)
-{
-       device_link_wait_for_supplier(consumer, true);
-}
-
-static void device_link_wait_for_optional_supplier(struct device *consumer)
-{
-       device_link_wait_for_supplier(consumer, false);
-}
-
-/**
- * device_link_add_missing_supplier_links - Add links from consumer devices to
- *                                         supplier devices, leaving any
- *                                         consumer with inactive suppliers on
- *                                         the wait_for_suppliers list
- *
- * Loops through all consumers waiting on suppliers and tries to add all their
- * supplier links. If that succeeds, the consumer device is removed from
- * wait_for_suppliers list. Otherwise, they are left in the wait_for_suppliers
- * list.  Devices left on the wait_for_suppliers list will not be probed.
- *
- * The fwnode add_links callback is expected to return 0 if it has found and
- * added all the supplier links for the consumer device. It should return an
- * error if it isn't able to do so.
- *
- * The caller of device_link_wait_for_supplier() is expected to call this once
- * it's aware of potential suppliers becoming available.
- */
-static void device_link_add_missing_supplier_links(void)
-{
-       struct device *dev, *tmp;
-
-       mutex_lock(&wfs_lock);
-       list_for_each_entry_safe(dev, tmp, &wait_for_suppliers,
-                                links.needs_suppliers) {
-               int ret = fwnode_call_int_op(dev->fwnode, add_links, dev);
-               if (!ret)
-                       list_del_init(&dev->links.needs_suppliers);
-               else if (ret != -ENODEV || fw_devlink_is_permissive())
-                       dev->links.need_for_probe = false;
-       }
-       mutex_unlock(&wfs_lock);
-}
-
 #ifdef CONFIG_SRCU
 static void __device_link_del(struct kref *kref)
 {
@@ -890,13 +926,13 @@ int device_links_check_suppliers(struct device *dev)
         * Device waiting for supplier to become available is not allowed to
         * probe.
         */
-       mutex_lock(&wfs_lock);
-       if (!list_empty(&dev->links.needs_suppliers) &&
-           dev->links.need_for_probe) {
-               mutex_unlock(&wfs_lock);
+       mutex_lock(&fwnode_link_lock);
+       if (dev->fwnode && !list_empty(&dev->fwnode->suppliers) &&
+           !fw_devlink_is_permissive()) {
+               mutex_unlock(&fwnode_link_lock);
                return -EPROBE_DEFER;
        }
-       mutex_unlock(&wfs_lock);
+       mutex_unlock(&fwnode_link_lock);
 
        device_links_write_lock();
 
@@ -960,11 +996,11 @@ static void __device_links_queue_sync_state(struct device *dev,
         */
        dev->state_synced = true;
 
-       if (WARN_ON(!list_empty(&dev->links.defer_hook)))
+       if (WARN_ON(!list_empty(&dev->links.defer_sync)))
                return;
 
        get_device(dev);
-       list_add_tail(&dev->links.defer_hook, list);
+       list_add_tail(&dev->links.defer_sync, list);
 }
 
 /**
@@ -982,8 +1018,8 @@ static void device_links_flush_sync_list(struct list_head *list,
 {
        struct device *dev, *tmp;
 
-       list_for_each_entry_safe(dev, tmp, list, links.defer_hook) {
-               list_del_init(&dev->links.defer_hook);
+       list_for_each_entry_safe(dev, tmp, list, links.defer_sync) {
+               list_del_init(&dev->links.defer_sync);
 
                if (dev != dont_lock_dev)
                        device_lock(dev);
@@ -1021,12 +1057,12 @@ void device_links_supplier_sync_state_resume(void)
        if (defer_sync_state_count)
                goto out;
 
-       list_for_each_entry_safe(dev, tmp, &deferred_sync, links.defer_hook) {
+       list_for_each_entry_safe(dev, tmp, &deferred_sync, links.defer_sync) {
                /*
                 * Delete from deferred_sync list before queuing it to
-                * sync_list because defer_hook is used for both lists.
+                * sync_list because defer_sync is used for both lists.
                 */
-               list_del_init(&dev->links.defer_hook);
+               list_del_init(&dev->links.defer_sync);
                __device_links_queue_sync_state(dev, &sync_list);
        }
 out:
@@ -1044,8 +1080,8 @@ late_initcall(sync_state_resume_initcall);
 
 static void __device_links_supplier_defer_sync(struct device *sup)
 {
-       if (list_empty(&sup->links.defer_hook) && dev_has_sync_state(sup))
-               list_add_tail(&sup->links.defer_hook, &deferred_sync);
+       if (list_empty(&sup->links.defer_sync) && dev_has_sync_state(sup))
+               list_add_tail(&sup->links.defer_sync, &deferred_sync);
 }
 
 static void device_link_drop_managed(struct device_link *link)
@@ -1062,10 +1098,7 @@ static ssize_t waiting_for_supplier_show(struct device *dev,
        bool val;
 
        device_lock(dev);
-       mutex_lock(&wfs_lock);
-       val = !list_empty(&dev->links.needs_suppliers)
-             && dev->links.need_for_probe;
-       mutex_unlock(&wfs_lock);
+       val = !list_empty(&dev->fwnode->suppliers);
        device_unlock(dev);
        return sysfs_emit(buf, "%u\n", val);
 }
@@ -1092,9 +1125,8 @@ void device_links_driver_bound(struct device *dev)
         * the device links it needs to or make new device links as it needs
         * them. So, it no longer needs to wait on any suppliers.
         */
-       mutex_lock(&wfs_lock);
-       list_del_init(&dev->links.needs_suppliers);
-       mutex_unlock(&wfs_lock);
+       if (dev->fwnode && dev->fwnode->dev == dev)
+               fwnode_links_purge_suppliers(dev->fwnode);
        device_remove_file(dev, &dev_attr_waiting_for_supplier);
 
        device_links_write_lock();
@@ -1275,7 +1307,7 @@ void device_links_driver_cleanup(struct device *dev)
                WRITE_ONCE(link->status, DL_STATE_DORMANT);
        }
 
-       list_del_init(&dev->links.defer_hook);
+       list_del_init(&dev->links.defer_sync);
        __device_links_no_driver(dev);
 
        device_links_write_unlock();
@@ -1385,10 +1417,6 @@ static void device_links_purge(struct device *dev)
        if (dev->class == &devlink_class)
                return;
 
-       mutex_lock(&wfs_lock);
-       list_del(&dev->links.needs_suppliers);
-       mutex_unlock(&wfs_lock);
-
        /*
         * Delete all of the remaining links from this device to any other
         * devices (either consumers or suppliers).
@@ -1439,139 +1467,267 @@ static bool fw_devlink_is_permissive(void)
        return fw_devlink_flags == DL_FLAG_SYNC_STATE_ONLY;
 }
 
-static void fw_devlink_link_device(struct device *dev)
+static void fw_devlink_parse_fwnode(struct fwnode_handle *fwnode)
 {
-       int fw_ret;
-
-       if (!fw_devlink_flags)
+       if (fwnode->flags & FWNODE_FLAG_LINKS_ADDED)
                return;
 
-       mutex_lock(&defer_fw_devlink_lock);
-       if (!defer_fw_devlink_count)
-               device_link_add_missing_supplier_links();
+       fwnode_call_int_op(fwnode, add_links);
+       fwnode->flags |= FWNODE_FLAG_LINKS_ADDED;
+}
+
+static void fw_devlink_parse_fwtree(struct fwnode_handle *fwnode)
+{
+       struct fwnode_handle *child = NULL;
+
+       fw_devlink_parse_fwnode(fwnode);
+
+       while ((child = fwnode_get_next_available_child_node(fwnode, child)))
+               fw_devlink_parse_fwtree(child);
+}
+
+/**
+ * fw_devlink_create_devlink - Create a device link from a consumer to fwnode
+ * @con - Consumer device for the device link
+ * @sup_handle - fwnode handle of supplier
+ *
+ * This function will try to create a device link between the consumer device
+ * @con and the supplier device represented by @sup_handle.
+ *
+ * The supplier has to be provided as a fwnode because incorrect cycles in
+ * fwnode links can sometimes cause the supplier device to never be created.
+ * This function detects such cases and returns an error if it cannot create a
+ * device link from the consumer to a missing supplier.
+ *
+ * Returns,
+ * 0 on successfully creating a device link
+ * -EINVAL if the device link cannot be created as expected
+ * -EAGAIN if the device link cannot be created right now, but it may be
+ *  possible to do that in the future
+ */
+static int fw_devlink_create_devlink(struct device *con,
+                                    struct fwnode_handle *sup_handle, u32 flags)
+{
+       struct device *sup_dev;
+       int ret = 0;
+
+       sup_dev = get_dev_from_fwnode(sup_handle);
+       if (sup_dev) {
+               /*
+                * If this fails, it is due to cycles in device links.  Just
+                * give up on this link and treat it as invalid.
+                */
+               if (!device_link_add(con, sup_dev, flags))
+                       ret = -EINVAL;
+
+               goto out;
+       }
 
        /*
-        * The device's fwnode not having add_links() doesn't affect if other
-        * consumers can find this device as a supplier.  So, this check is
-        * intentionally placed after device_link_add_missing_supplier_links().
+        * DL_FLAG_SYNC_STATE_ONLY doesn't block probing and supports
+        * cycles. So cycle detection isn't necessary and shouldn't be
+        * done.
         */
-       if (!fwnode_has_op(dev->fwnode, add_links))
-               goto out;
+       if (flags & DL_FLAG_SYNC_STATE_ONLY)
+               return -EAGAIN;
 
        /*
-        * If fw_devlink is being deferred, assume all devices have mandatory
-        * suppliers they need to link to later. Then, when the fw_devlink is
-        * resumed, all these devices will get a chance to try and link to any
-        * suppliers they have.
+        * If we can't find the supplier device from its fwnode, it might be
+        * due to a cyclic dependency between fwnodes. Some of these cycles can
+        * be broken by applying logic. Check for these types of cycles and
+        * break them so that devices in the cycle probe properly.
+        *
+        * If the supplier's parent is dependent on the consumer, then
+        * the consumer-supplier dependency is a false dependency. So,
+        * treat it as an invalid link.
         */
-       if (!defer_fw_devlink_count) {
-               fw_ret = fwnode_call_int_op(dev->fwnode, add_links, dev);
-               if (fw_ret == -ENODEV && fw_devlink_is_permissive())
-                       fw_ret = -EAGAIN;
+       sup_dev = fwnode_get_next_parent_dev(sup_handle);
+       if (sup_dev && device_is_dependent(con, sup_dev)) {
+               dev_dbg(con, "Not linking to %pfwP - False link\n",
+                       sup_handle);
+               ret = -EINVAL;
        } else {
-               fw_ret = -ENODEV;
                /*
-                * defer_hook is not used to add device to deferred_sync list
-                * until device is bound. Since deferred fw devlink also blocks
-                * probing, same list hook can be used for deferred_fw_devlink.
+                * Can't check for cycles or no cycles. So let's try
+                * again later.
                 */
-               list_add_tail(&dev->links.defer_hook, &deferred_fw_devlink);
+               ret = -EAGAIN;
        }
 
-       if (fw_ret == -ENODEV)
-               device_link_wait_for_mandatory_supplier(dev);
-       else if (fw_ret)
-               device_link_wait_for_optional_supplier(dev);
-
 out:
-       mutex_unlock(&defer_fw_devlink_lock);
+       put_device(sup_dev);
+       return ret;
 }
 
 /**
- * fw_devlink_pause - Pause parsing of fwnode to create device links
- *
- * Calling this function defers any fwnode parsing to create device links until
- * fw_devlink_resume() is called. Both these functions are ref counted and the
- * caller needs to match the calls.
- *
- * While fw_devlink is paused:
- * - Any device that is added won't have its fwnode parsed to create device
- *   links.
- * - The probe of the device will also be deferred during this period.
- * - Any devices that were already added, but waiting for suppliers won't be
- *   able to link to newly added devices.
- *
- * Once fw_devlink_resume():
- * - All the fwnodes that was not parsed will be parsed.
- * - All the devices that were deferred probing will be reattempted if they
- *   aren't waiting for any more suppliers.
+ * __fw_devlink_link_to_consumers - Create device links to consumers of a device
+ * @dev - Device that needs to be linked to its consumers
  *
- * This pair of functions, is mainly meant to optimize the parsing of fwnodes
- * when a lot of devices that need to link to each other are added in a short
- * interval of time. For example, adding all the top level devices in a system.
+ * This function looks at all the consumer fwnodes of @dev and creates device
+ * links between the consumer device and @dev (supplier).
  *
- * For example, if N devices are added and:
- * - All the consumers are added before their suppliers
- * - All the suppliers of the N devices are part of the N devices
+ * If the consumer device has not been added yet, then this function creates a
+ * SYNC_STATE_ONLY link between @dev (supplier) and the closest ancestor device
+ * of the consumer fwnode. This is necessary to make sure @dev doesn't get a
+ * sync_state() callback before the real consumer device gets to be added and
+ * then probed.
  *
- * Then:
- *
- * - With the use of fw_devlink_pause() and fw_devlink_resume(), each device
- *   will only need one parsing of its fwnode because it is guaranteed to find
- *   all the supplier devices already registered and ready to link to. It won't
- *   have to do another pass later to find one or more suppliers it couldn't
- *   find in the first parse of the fwnode. So, we'll only need O(N) fwnode
- *   parses.
- *
- * - Without the use of fw_devlink_pause() and fw_devlink_resume(), we would
- *   end up doing O(N^2) parses of fwnodes because every device that's added is
- *   guaranteed to trigger a parse of the fwnode of every device added before
- *   it. This O(N^2) parse is made worse by the fact that when a fwnode of a
- *   device is parsed, all it descendant devices might need to have their
- *   fwnodes parsed too (even if the devices themselves aren't added).
+ * Once device links are created from the real consumer to @dev (supplier), the
+ * fwnode links are deleted.
  */
-void fw_devlink_pause(void)
+static void __fw_devlink_link_to_consumers(struct device *dev)
 {
-       mutex_lock(&defer_fw_devlink_lock);
-       defer_fw_devlink_count++;
-       mutex_unlock(&defer_fw_devlink_lock);
+       struct fwnode_handle *fwnode = dev->fwnode;
+       struct fwnode_link *link, *tmp;
+
+       list_for_each_entry_safe(link, tmp, &fwnode->consumers, s_hook) {
+               u32 dl_flags = fw_devlink_get_flags();
+               struct device *con_dev;
+               bool own_link = true;
+               int ret;
+
+               con_dev = get_dev_from_fwnode(link->consumer);
+               /*
+                * If consumer device is not available yet, make a "proxy"
+                * SYNC_STATE_ONLY link from the consumer's parent device to
+                * the supplier device. This is necessary to make sure the
+                * supplier doesn't get a sync_state() callback before the real
+                * consumer can create a device link to the supplier.
+                *
+                * This proxy link step is needed to handle the case where the
+                * consumer's parent device is added before the supplier.
+                */
+               if (!con_dev) {
+                       con_dev = fwnode_get_next_parent_dev(link->consumer);
+                       /*
+                        * However, if the consumer's parent device is also the
+                        * parent of the supplier, don't create a
+                        * consumer-supplier link from the parent to its child
+                        * device. Such a dependency is impossible.
+                        */
+                       if (con_dev &&
+                           fwnode_is_ancestor_of(con_dev->fwnode, fwnode)) {
+                               put_device(con_dev);
+                               con_dev = NULL;
+                       } else {
+                               own_link = false;
+                               dl_flags = DL_FLAG_SYNC_STATE_ONLY;
+                       }
+               }
+
+               if (!con_dev)
+                       continue;
+
+               ret = fw_devlink_create_devlink(con_dev, fwnode, dl_flags);
+               put_device(con_dev);
+               if (!own_link || ret == -EAGAIN)
+                       continue;
+
+               list_del(&link->s_hook);
+               list_del(&link->c_hook);
+               kfree(link);
+       }
 }
 
-/** fw_devlink_resume - Resume parsing of fwnode to create device links
+/**
+ * __fw_devlink_link_to_suppliers - Create device links to suppliers of a device
+ * @dev - The consumer device that needs to be linked to its suppliers
+ * @fwnode - Root of the fwnode tree that is used to create device links
  *
- * This function is used in conjunction with fw_devlink_pause() and is ref
- * counted. See documentation for fw_devlink_pause() for more details.
+ * This function looks at all the supplier fwnodes of fwnode tree rooted at
+ * @fwnode and creates device links between @dev (consumer) and all the
+ * supplier devices of the entire fwnode tree at @fwnode.
+ *
+ * The function creates normal (non-SYNC_STATE_ONLY) device links between @dev
+ * and the real suppliers of @dev. Once these device links are created, the
+ * fwnode links are deleted. When such device links are successfully created,
+ * this function is called recursively on those supplier devices. This is
+ * needed to detect and break some invalid cycles in fwnode links.  See
+ * fw_devlink_create_devlink() for more details.
+ *
+ * In addition, it also looks at all the suppliers of the entire fwnode tree
+ * because some of the child devices of @dev that have not been added yet
+ * (because @dev hasn't probed) might already have their suppliers added to
+ * driver core. So, this function creates SYNC_STATE_ONLY device links between
+ * @dev (consumer) and these suppliers to make sure they don't execute their
+ * sync_state() callbacks before these child devices have a chance to create
+ * their device links. The fwnode links that correspond to the child devices
+ * aren't delete because they are needed later to create the device links
+ * between the real consumer and supplier devices.
  */
-void fw_devlink_resume(void)
+static void __fw_devlink_link_to_suppliers(struct device *dev,
+                                          struct fwnode_handle *fwnode)
 {
-       struct device *dev, *tmp;
-       LIST_HEAD(probe_list);
+       bool own_link = (dev->fwnode == fwnode);
+       struct fwnode_link *link, *tmp;
+       struct fwnode_handle *child = NULL;
+       u32 dl_flags;
 
-       mutex_lock(&defer_fw_devlink_lock);
-       if (!defer_fw_devlink_count) {
-               WARN(true, "Unmatched fw_devlink pause/resume!");
-               goto out;
-       }
+       if (own_link)
+               dl_flags = fw_devlink_get_flags();
+       else
+               dl_flags = DL_FLAG_SYNC_STATE_ONLY;
 
-       defer_fw_devlink_count--;
-       if (defer_fw_devlink_count)
-               goto out;
+       list_for_each_entry_safe(link, tmp, &fwnode->suppliers, c_hook) {
+               int ret;
+               struct device *sup_dev;
+               struct fwnode_handle *sup = link->supplier;
 
-       device_link_add_missing_supplier_links();
-       list_splice_tail_init(&deferred_fw_devlink, &probe_list);
-out:
-       mutex_unlock(&defer_fw_devlink_lock);
+               ret = fw_devlink_create_devlink(dev, sup, dl_flags);
+               if (!own_link || ret == -EAGAIN)
+                       continue;
+
+               list_del(&link->s_hook);
+               list_del(&link->c_hook);
+               kfree(link);
+
+               /* If no device link was created, nothing more to do. */
+               if (ret)
+                       continue;
+
+               /*
+                * If a device link was successfully created to a supplier, we
+                * now need to try and link the supplier to all its suppliers.
+                *
+                * This is needed to detect and delete false dependencies in
+                * fwnode links that haven't been converted to a device link
+                * yet. See comments in fw_devlink_create_devlink() for more
+                * details on the false dependency.
+                *
+                * Without deleting these false dependencies, some devices will
+                * never probe because they'll keep waiting for their false
+                * dependency fwnode links to be converted to device links.
+                */
+               sup_dev = get_dev_from_fwnode(sup);
+               __fw_devlink_link_to_suppliers(sup_dev, sup_dev->fwnode);
+               put_device(sup_dev);
+       }
 
        /*
-        * bus_probe_device() can cause new devices to get added and they'll
-        * try to grab defer_fw_devlink_lock. So, this needs to be done outside
-        * the defer_fw_devlink_lock.
+        * Make "proxy" SYNC_STATE_ONLY device links to represent the needs of
+        * all the descendants. This proxy link step is needed to handle the
+        * case where the supplier is added before the consumer's parent device
+        * (@dev).
         */
-       list_for_each_entry_safe(dev, tmp, &probe_list, links.defer_hook) {
-               list_del_init(&dev->links.defer_hook);
-               bus_probe_device(dev);
-       }
+       while ((child = fwnode_get_next_available_child_node(fwnode, child)))
+               __fw_devlink_link_to_suppliers(dev, child);
 }
+
+static void fw_devlink_link_device(struct device *dev)
+{
+       struct fwnode_handle *fwnode = dev->fwnode;
+
+       if (!fw_devlink_flags)
+               return;
+
+       fw_devlink_parse_fwtree(fwnode);
+
+       mutex_lock(&fwnode_link_lock);
+       __fw_devlink_link_to_consumers(dev);
+       __fw_devlink_link_to_suppliers(dev, fwnode);
+       mutex_unlock(&fwnode_link_lock);
+}
+
 /* Device links support end. */
 
 int (*platform_notify)(struct device *dev) = NULL;
@@ -2196,7 +2352,7 @@ static int device_add_attrs(struct device *dev)
                        goto err_remove_dev_groups;
        }
 
-       if (fw_devlink_flags && !fw_devlink_is_permissive()) {
+       if (fw_devlink_flags && !fw_devlink_is_permissive() && dev->fwnode) {
                error = device_create_file(dev, &dev_attr_waiting_for_supplier);
                if (error)
                        goto err_remove_dev_online;
@@ -2427,8 +2583,7 @@ void device_initialize(struct device *dev)
 #endif
        INIT_LIST_HEAD(&dev->links.consumers);
        INIT_LIST_HEAD(&dev->links.suppliers);
-       INIT_LIST_HEAD(&dev->links.needs_suppliers);
-       INIT_LIST_HEAD(&dev->links.defer_hook);
+       INIT_LIST_HEAD(&dev->links.defer_sync);
        dev->links.status = DL_DEV_NO_DRIVER;
 }
 EXPORT_SYMBOL_GPL(device_initialize);